Le mélange volatil de deepfakes et de campagnes politiques est une bonne raison d'être sur ses gardes. Sean Anthony Eddy Créatif/E+ via Getty Images
Imaginez un Surprise d'octobre pas comme les autres : une semaine seulement avant le 5 novembre 2024, un enregistrement vidéo révèle une rencontre secrète entre Joe Biden et Volodymyr Zelenskyy. Les présidents américain et ukrainien conviennent d'intégrer immédiatement l'Ukraine à l'OTAN dans le cadre du "protocole spécial d'adhésion d'urgence" et de se préparer à une attaque nucléaire contre la Russie. Soudain, le monde est sur le point d'Armageddon.
Alors que les journalistes pourraient souligner que un tel protocole n'existe pas et les utilisateurs de médias sociaux pourraient remarquer des qualités de jeu vidéo étranges de la vidéo, d'autres pourraient penser que leurs pires peurs ont été confirmés. Lorsque le jour du scrutin arrive, ces citoyens inquiets peuvent laisser la vidéo influencer leurs votes, ignorant qu'ils viennent d'être manipulés par une situation deepfake - un événement qui ne s'est jamais réellement produit.
Les deepfakes de situation représentent la prochaine étape des technologies qui a déjà ébranlé la perception de la réalité du public. Dans nos recherches au Projet DeFake, mes collègues du Rochester Institute of Technology, Université du Mississippi, Michigan State University et moi étudier comment les deepfakes sont fabriqués et quelles mesures les électeurs peuvent prendre pour s'en défendre.
Imaginer des événements qui ne se sont jamais produits
Un deepfake est créé lorsqu'une personne utilise un outil d'intelligence artificielle, en particulier l'apprentissage en profondeur, pour manipuler ou générer un faireun voix ou – avec la montée de grands modèles de langage comme ChatGPT - langage conversationnel. Ceux-ci peuvent être combinés pour former des "deepfakes de situation".
L'idée de base et la technologie d'un deepfake de situation sont les mêmes que pour tout autre deepfake, mais avec une ambition plus audacieuse : manipuler un événement réel ou en inventer un à partir de rien. Les exemples incluent des représentations de La promenade perp de Donald Trump ainsi que Trump étreignant Anthony Fauci, ce qui n'est pas arrivé. Le coup de câlin a été promu par un compte Twitter associé à la campagne présidentielle du rival de Trump, Ron DeSantis. Un annonce d'attaque ciblant la campagne 2024 de Joe Biden publiée par le Comité national républicain était entièrement réalisé avec l'IA.
Au Projet DeFake, Notre la recherche a trouvé que les deepfakes, y compris les situations, sont généralement créés par un mélange de ajouter un média à un autre; à l'aide d'une vidéo pour animer une image ou modifier une autre vidéo, surnommé le marionnettiste ; conjurer un morceau de média à l'existence, généralement en utilisant IA générative; ou une combinaison de ces techniques.
Pour être clair, de nombreux deepfakes de situation sont faits à des fins innocentes. Par exemple, Magazine Odyssée infinie produit de fausses images fixes à partir de films qui n'ont jamais été produits or n'aurait jamais pu exister. Mais même les deepfakes innocents donnent une raison de s'arrêter, comme dans le cas de fausses photographies presque crédibles représentant le Apollo Moon landing en tant que production cinématographique.
Truquer une élection
Maintenant, mettez-vous à la place de quelqu'un qui essaie d'influencer les prochaines élections. Quelles sont les situations possibles que vous pourriez vouloir créer ?
Pour commencer, il importerait de savoir si vous vouliez incliner le vote vers ou à l'opposé d'un résultat spécifique. Peut-être dépeindriez-vous un candidat agissant héroïquement en écartant un piéton du chemin d'une voiture qui roule ou, à l'inverse, en faisant quelque chose d'offensant ou de criminel. Le format de la situation deepfake serait également important. Au lieu d'une vidéo, il pourrait s'agir d'une photographie, peut-être avec le flou et les angles qui simulent un appareil photo de smartphone ou le faux logo d'une agence de presse.
Votre public cible serait la clé. Plutôt que de viser l'électorat général ou la base d'un parti, vous pouvez cibler les théoriciens du complot dans les principales circonscriptions électorales. Vous pouvez présenter le candidat ou les membres de sa famille comme s'engageant dans une rituel satanique, participant à un festival au exclusif et controversé Bohemian Grove, ou ayant un rencontre secrète avec un extraterrestre.
Si vous en avez l'ambition et les capacités, vous pourriez même essayer de truquer l'élection elle-même. En juin 2023, les chaînes de télévision et de radio russes ont été piratées et diffuser un ordre de mobilisation complet par une deepfake du président russe Vladimir Poutine. Bien que cela soit plus difficile à faire lors d'une élection américaine, en principe, tout média pourrait être piraté pour diffuser des deepfakes de leurs ancres annonçant les mauvais résultats ou un candidat concédant.
Défendre la réalité
Il existe une variété de moyens technologiques et psychologiques pour détecter et se défendre contre les deepfakes de situation.
Sur le plan technologique, tous les deepfakes contiennent des preuves de leur véritable nature. Certains de ces signes peuvent être vus par l'œil humain - comme une peau trop lisse ou un éclairage ou une architecture étrange - tandis que d'autres peuvent être détectable uniquement par une IA de chasse aux deepfakes.
Nous construisons Fauxd'utiliser l'IA pour détecter les signes révélateurs de deepfakes, et nous nous efforçons de le préparer à temps pour les élections de 2024. Mais même si un détecteur de deepfake suffisamment puissant comme le nôtre ne peut pas être déployé d'ici le jour du scrutin, il existe des outils psychologiques que vous, l'électeur, pouvez utiliser pour identifier les deepfakes : connaissances de base, curiosité et scepticisme sain.
Si vous rencontrez un contenu médiatique sur une personne, un lieu ou un événement qui semble inhabituel, faites confiance à vos connaissances de base. Par exemple, dans un canular récent d'un incendie au Pentagone, le bâtiment montré semble plus carré que pentagonal, ce qui pourrait être un cadeau.
Cependant, essayez de ne pas vous fier entièrement à vos connaissances de base, qui pourraient être erronées ou inégales. N'ayez jamais peur d'en savoir plus à partir de sources fiables, telles que des reportages vérifiés, des articles universitaires évalués par des pairs ou des entretiens avec des experts accrédités.
De plus, sachez que les deepfakes peuvent être utilisés pour profiter de ce que vous êtes enclin à croire sur une personne, un lieu ou un événement. L'une des meilleures façons de gérer cela est de simplement soyez conscient de vos préjugés et soyez un peu prudent sur tout contenu médiatique qui semble les confirmer.
Même s'il devient possible de créer des deepfakes en situation parfaite, la crédibilité de leur sujet restera probablement leur talon d'Achille. Ainsi, avec ou sans solution technologique, vous avez toujours le pouvoir de défendre l'élection contre l'influence de faux événements.
A propos de l'auteur
Christophe Schwartz, Chercheur Postdoctoral en Sécurité Informatique, Rochester Institute of Technology
Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.
Livres connexes:
De la tyrannie : vingt leçons du XXe siècle
de Timothy Snyder
Ce livre offre des leçons de l'histoire pour préserver et défendre la démocratie, y compris l'importance des institutions, le rôle des citoyens individuels et les dangers de l'autoritarisme.
Cliquez pour plus d'informations ou pour commander
Notre temps est venu: pouvoir, but et lutte pour une Amérique équitable
par Stacey Abrams
L'auteure, politicienne et militante, partage sa vision d'une démocratie plus inclusive et plus juste et propose des stratégies pratiques d'engagement politique et de mobilisation des électeurs.
Cliquez pour plus d'informations ou pour commander
Comment meurent les démocraties
de Steven Levitsky et Daniel Ziblatt
Ce livre examine les signes avant-coureurs et les causes de l'effondrement de la démocratie, en s'appuyant sur des études de cas du monde entier pour offrir un aperçu de la manière de sauvegarder la démocratie.
Cliquez pour plus d'informations ou pour commander
Le peuple, non : une brève histoire de l'antipopulisme
par Thomas Frank
L'auteur propose une histoire des mouvements populistes aux États-Unis et critique l'idéologie "anti-populiste" qui, selon lui, a étouffé la réforme et le progrès démocratiques.
Cliquez pour plus d'informations ou pour commander
La démocratie en un livre ou moins : comment ça marche, pourquoi ça ne marche pas et pourquoi y remédier est plus facile que vous ne le pensez
par David Litt
Ce livre offre un aperçu de la démocratie, y compris ses forces et ses faiblesses, et propose des réformes pour rendre le système plus réactif et responsable.
