Image Suzanne Cipriano
De l'éditeur :
Comme souligné dans cet article, le développement de campagnes politiques basées sur l'IA, telles que l'hypothétique machine appelée Clogger, pourrait profondément saper l'intégrité des élections. En tirant parti de l'automatisation, de la messagerie personnalisée et de l'apprentissage par renforcement, ces machines ont le potentiel de manipuler et de modifier le comportement des électeurs à grande échelle.
À une époque où l'intelligence artificielle (IA) progresse rapidement, nous devons rester vigilants face aux menaces potentielles qu'elle représente pour nos processus démocratiques. L'émergence de campagnes axées sur l'IA remet en question l'essence même de la démocratie. Au lieu que les élections soient déterminées par le pouvoir des idées, des propositions politiques et des véritables choix des électeurs, elles pourraient être influencées par des machines axées uniquement sur la victoire. Le contenu qui prévaudrait proviendrait de modèles de langage d'IA sans égard pour la vérité ou les principes politiques. En substance, le résultat des élections serait dicté par une intelligence artificielle, érodant le processus démocratique.
Pour éviter la montée d'une « clogocratie » et la déresponsabilisation des citoyens, il est crucial que nous agissions. Une protection renforcée de la vie privée et des lois strictes sur la confidentialité des données peuvent aider à limiter l'accès des machines d'IA aux données personnelles, réduisant ainsi leur efficacité à cibler et à manipuler les individus. Les commissions électorales devraient également envisager d'interdire ou de réglementer strictement les systèmes d'IA conçus pour influencer les électeurs. Mettre en œuvre des réglementations qui exigent des clauses de non-responsabilité claires lorsque des messages générés par l'IA sont utilisés dans des campagnes politiques. Cela peut assurer la transparence et aider les électeurs à prendre des décisions éclairées.
Il est impératif que nous relevions ces défis de manière proactive et veillons à ce que la puissance de l'IA soit exploitée de manière responsable pour faire respecter les principes de la démocratie. En préservant l'intégrité des élections et en protégeant la liberté de choix, nous pouvons naviguer dans les complexités de l'IA et préserver les fondements de la gouvernance démocratique.
Comment l'IA pourrait prendre le contrôle des élections - et saper la démocratie
Écrit par Archonte Fung, professeur de citoyenneté et d'autonomie gouvernementale, École Harvard Kennedy ainsi que le Lawrence Lessig, professeur de droit et de leadership, Université de Harvard
Les organisations pourraient-elles utiliser des modèles de langage d'intelligence artificielle tels que ChatGPT pour inciter les électeurs à se comporter de manière spécifique ?
Le sénateur Josh Hawley a posé cette question au PDG d'OpenAI, Sam Altman, dans un 16 mai 2023, audience du Sénat américain sur l'intelligence artificielle. Altman a répondu qu'il craignait en effet que certaines personnes utilisent des modèles linguistiques pour manipuler, persuader et s'engager dans des interactions individuelles avec les électeurs.
Altman n'a pas précisé, mais il aurait pu avoir quelque chose comme ce scénario en tête. Imaginez que bientôt, des technologues politiques développent une machine appelée Clogger – une campagne politique dans une boîte noire. Clogger poursuit sans relâche un seul objectif : maximiser les chances que son candidat – la campagne qui achète les services de Clogger Inc. – l'emporte lors d'une élection.
Alors que des plateformes comme Facebook, Twitter et YouTube utilisent des formes d'IA pour amener les utilisateurs à passer plus de temps sur leurs sites, l'IA de Clogger aurait un objectif différent : changer le comportement de vote des gens.
Comment Clogger fonctionnerait
Comme étant une entreprise politologue et juriste qui étudient l'intersection de la technologie et de la démocratie, nous pensons que quelque chose comme Clogger pourrait utiliser l'automatisation pour augmenter considérablement l'échelle et potentiellement l'efficacité de techniques de manipulation du comportement et de microciblage que les campagnes politiques utilisent depuis le début des années 2000. Tout comme les annonceurs utilisent votre historique de navigation et de réseaux sociaux pour cibler individuellement les publicités commerciales et politiques maintenant, Clogger prêterait attention à vous - et à des centaines de millions d'autres électeurs - individuellement.
Il offrirait trois avancées par rapport à la manipulation de comportement algorithmique de pointe actuelle. Tout d'abord, son modèle de langage générerait des messages - textes, médias sociaux et e-mails, comprenant peut-être des images et des vidéos - adaptés à vous personnellement. Alors que les annonceurs placent stratégiquement un nombre relativement restreint d'annonces, les modèles linguistiques tels que ChatGPT peuvent générer d'innombrables messages uniques pour vous personnellement - et des millions pour les autres - au cours d'une campagne.
Deuxièmement, Clogger utiliserait une technique appelée apprentissage par renforcement pour générer une succession de messages qui deviennent de plus en plus susceptibles de modifier votre vote. L'apprentissage par renforcement est une approche d'apprentissage automatique, d'essais et d'erreurs dans laquelle l'ordinateur prend des mesures et obtient des commentaires sur ce qui fonctionne le mieux afin d'apprendre comment atteindre un objectif. Machines pouvant jouer au go, aux échecs et à de nombreux jeux vidéo mieux que n'importe quel humain ont utilisé l'apprentissage par renforcement.
Comment fonctionne l'apprentissage par renforcement.
Troisièmement, au cours d'une campagne, les messages de Clogger pourraient évoluer afin de prendre en compte vos réponses aux dépêches précédentes de la machine et ce qu'elle a appris sur le changement d'avis des autres. Clogger serait en mesure de poursuivre des «conversations» dynamiques avec vous - et des millions d'autres personnes - au fil du temps. Les messages de Clogger seraient similaires à les publicités qui vous suivent sur différents sites Web et réseaux sociaux.
La nature de l'IA
Trois autres fonctionnalités - ou bogues - méritent d'être notées.
Premièrement, les messages envoyés par Clogger peuvent ou non avoir un contenu politique. Le seul objectif de la machine est de maximiser la part des votes, et elle élaborerait probablement des stratégies pour atteindre cet objectif auxquelles aucun militant humain n'aurait pensé.
Une possibilité consiste à envoyer aux électeurs opposants probables des informations sur les passions non politiques qu'ils ont dans le sport ou le divertissement pour enterrer les messages politiques qu'ils reçoivent. Une autre possibilité consiste à envoyer des messages rebutants – par exemple des publicités sur l'incontinence – programmés pour coïncider avec les messages des adversaires. Et un autre manipule les groupes d'amis des médias sociaux des électeurs pour donner l'impression que leurs cercles sociaux soutiennent son candidat.
Deuxièmement, Clogger n'a aucun respect pour la vérité. En effet, il n'a aucun moyen de savoir ce qui est vrai ou faux. Modèle de langage "hallucinations" ne sont pas un problème pour cette machine car son objectif est de modifier votre vote, pas de fournir des informations exactes.
Troisièmement, parce qu'il s'agit d'un type de boîte noire d'intelligence artificielle, les gens n'auraient aucun moyen de savoir quelles stratégies il utilise.
Le domaine de l'IA explicable vise à ouvrir la boîte noire de nombreux modèles d'apprentissage automatique afin que les gens puissent comprendre comment ils fonctionnent.
Clogocratie
Si la campagne présidentielle républicaine devait déployer Clogger en 2024, la campagne démocrate serait probablement obligée de répondre en nature, peut-être avec une machine similaire. Appelez-le Dogger. Si les directeurs de campagne pensaient que ces machines étaient efficaces, le concours présidentiel pourrait bien se résumer à Clogger contre Dogger, et le gagnant serait le client de la machine la plus efficace.
Les politologues et les experts auraient beaucoup à dire sur la raison pour laquelle l'une ou l'autre IA a prévalu, mais personne ne le saurait probablement vraiment. Le président aura été élu non pas parce que ses propositions politiques ou ses idées politiques ont persuadé plus d'Américains, mais parce qu'il ou elle avait l'IA la plus efficace. Le contenu qui a remporté la journée proviendrait d'une IA axée uniquement sur la victoire, sans idées politiques propres, plutôt que de candidats ou de partis.
Dans ce sens très important, une machine aurait remporté l'élection plutôt qu'une personne. L'élection ne serait plus démocratique, même si toutes les activités ordinaires de la démocratie - les discours, les publicités, les messages, le vote et le dépouillement des votes - auront eu lieu.
Le président élu par l'IA pourrait alors emprunter l'une des deux voies. Il ou elle pourrait utiliser le manteau de l'élection pour poursuivre les politiques des partis républicains ou démocrates. Mais parce que les idées du parti n'ont peut-être pas grand-chose à voir avec la raison pour laquelle les gens ont voté comme ils l'ont fait – Clogger et Dogger ne se soucient pas des opinions politiques – les actions du président ne refléteraient pas nécessairement la volonté des électeurs. Les électeurs auraient été manipulés par l'IA plutôt que de choisir librement leurs dirigeants politiques et leurs politiques.
Une autre voie consiste pour le président à poursuivre les messages, les comportements et les politiques qui, selon la machine, maximiseront les chances de réélection. Sur cette voie, le président n'aurait pas de plate-forme ou d'agenda particulier au-delà du maintien au pouvoir. Les actions du président, guidées par Clogger, seraient les plus susceptibles de manipuler les électeurs plutôt que de servir leurs véritables intérêts ou même la propre idéologie du président.
Éviter la clogocratie
Il serait possible d'éviter la manipulation électorale par l'IA si les candidats, les campagnes et les consultants renonçaient tous à l'utilisation d'une telle IA politique. Nous pensons que c'est peu probable. Si des boîtes noires politiquement efficaces étaient développées, la tentation de les utiliser serait presque irrésistible. En effet, les consultants politiques pourraient bien voir utiliser ces outils comme l'exige leur responsabilité professionnelle pour faire gagner leurs candidats. Et une fois qu'un candidat utilise un outil aussi efficace, on ne peut guère s'attendre à ce que les opposants résistent en désarmant unilatéralement.
Protection de la vie privée améliorée aiderait. Clogger dépendrait de l'accès à de grandes quantités de données personnelles afin de cibler les individus, de créer des messages adaptés pour les persuader ou les manipuler, et de les suivre et de les recibler au cours d'une campagne. Chaque partie de ces informations que les entreprises ou les décideurs nient à la machine la rendrait moins efficace.
Des lois strictes sur la confidentialité des données pourraient aider à empêcher l'IA d'être manipulatrice.
Une autre solution réside dans les commissions électorales. Ils pourraient essayer d'interdire ou de réglementer sévèrement ces machines. Il y a un débat acharné savoir si un tel discours "réplicant", même s'il est de nature politique, peut être réglementé. L'extrême tradition de la liberté d'expression aux États-Unis conduit de nombreux universitaires de premier plan à dire qu'il ne peut pas.
Mais il n'y a aucune raison d'étendre automatiquement la protection du premier amendement au produit de ces machines. La nation pourrait bien choisir de donner des droits aux machines, mais cela devrait être une décision fondée sur les défis d'aujourd'hui, pas l'hypothèse mal placée que les vues de James Madison en 1789 étaient destinées à s'appliquer à l'IA.
Les régulateurs de l'Union européenne vont dans ce sens. Les décideurs politiques ont révisé le projet de loi sur l'intelligence artificielle du Parlement européen pour désigner les "systèmes d'IA pour influencer les électeurs dans les campagnes" comme "risque élevé" et soumis à un examen réglementaire.
Une étape constitutionnellement plus sûre, bien que plus petite, déjà adoptée en partie par Les régulateurs européens de l'internet et en Californie, est d'interdire aux bots de se faire passer pour des personnes. Par exemple, la réglementation peut exiger que les messages de campagne soient accompagnés de clauses de non-responsabilité lorsque le contenu qu'ils contiennent est généré par des machines plutôt que par des humains.
Cela ressemblerait aux exigences de la clause de non-responsabilité publicitaire - "Payé par le comité Sam Jones pour le Congrès" - mais modifié pour refléter son origine IA : "Cette publicité générée par l'IA a été payée par le comité Sam Jones pour le Congrès". Une version plus forte pourrait exiger : "Ce message généré par l'IA vous est envoyé par le comité Sam Jones pour le Congrès car Clogger a prédit que cela augmenterait vos chances de voter pour Sam Jones de 0.0002 %." À tout le moins, nous pensons que les électeurs méritent de savoir quand c'est un bot qui leur parle, et ils devraient également savoir pourquoi.
La possibilité d'un système comme Clogger montre que le chemin vers déresponsabilisation collective humaine peut ne pas nécessiter un surhumain intelligence générale artificielle. Cela pourrait simplement nécessiter des militants et des consultants trop enthousiastes qui disposent de nouveaux outils puissants capables de pousser efficacement les nombreux boutons de millions de personnes.
À propos des auteurs
Archonte Fung, professeur de citoyenneté et d'autonomie gouvernementale, École Harvard Kennedy ainsi que le Lawrence Lessig, professeur de droit et de leadership, Université de Harvard
Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.
Addendum de l'éditeur : Le potentiel de l'IA à prendre le contrôle des élections et à saper la démocratie est une préoccupation urgente qui requiert notre attention. Comme cet article l'a souligné, l'essor des campagnes politiques axées sur l'IA comme Clogger pourrait remodeler les résultats électoraux, les machines influençant le comportement des électeurs à une échelle sans précédent. Les conséquences d'un tel changement seraient considérables, avec des élections déterminées non par la volonté du peuple mais par l'efficacité de la manipulation de l'IA.
Pour prévenir cette déresponsabilisation des citoyens et sauvegarder la démocratie, nous devons prendre des mesures proactives. Une protection solide de la vie privée et des réglementations qui limitent l'influence des systèmes d'IA sur les élections sont cruciales. En garantissant la transparence, en appliquant des clauses de non-responsabilité claires pour le contenu généré par l'IA et en promouvant une utilisation responsable de l'IA, nous pouvons maintenir l'intégrité des processus démocratiques et protéger les valeurs fondamentales de notre société.
Il est essentiel que nous restions vigilants et travaillions collectivement pour relever les défis posés par l'IA lors des élections. Ce faisant, nous pouvons préserver les idéaux démocratiques qui sous-tendent nos sociétés et assurer un avenir où le pouvoir de la technologie s'aligne sur les intérêts et les aspirations du peuple.
Livres connexes:
De la tyrannie : vingt leçons du XXe siècle
de Timothy Snyder
Ce livre offre des leçons de l'histoire pour préserver et défendre la démocratie, y compris l'importance des institutions, le rôle des citoyens individuels et les dangers de l'autoritarisme.
Cliquez pour plus d'informations ou pour commander
Notre temps est venu: pouvoir, but et lutte pour une Amérique équitable
par Stacey Abrams
L'auteure, politicienne et militante, partage sa vision d'une démocratie plus inclusive et plus juste et propose des stratégies pratiques d'engagement politique et de mobilisation des électeurs.
Cliquez pour plus d'informations ou pour commander
Comment meurent les démocraties
de Steven Levitsky et Daniel Ziblatt
Ce livre examine les signes avant-coureurs et les causes de l'effondrement de la démocratie, en s'appuyant sur des études de cas du monde entier pour offrir un aperçu de la manière de sauvegarder la démocratie.
Cliquez pour plus d'informations ou pour commander
Le peuple, non : une brève histoire de l'antipopulisme
par Thomas Frank
L'auteur propose une histoire des mouvements populistes aux États-Unis et critique l'idéologie "anti-populiste" qui, selon lui, a étouffé la réforme et le progrès démocratiques.
Cliquez pour plus d'informations ou pour commander
La démocratie en un livre ou moins : comment ça marche, pourquoi ça ne marche pas et pourquoi y remédier est plus facile que vous ne le pensez
par David Litt
Ce livre offre un aperçu de la démocratie, y compris ses forces et ses faiblesses, et propose des réformes pour rendre le système plus réactif et responsable.
