les contrefaçons profondes sèment le doute 4 14
 La technologie qui peut produire des deepfakes est largement disponible. (Shutterstock)

Début mars, un une vidéo manipulée du président ukrainien Volodymyr Zelenskyy a été diffusée. Dans ce document, un Zelenskyy généré numériquement a dit à l'armée nationale ukrainienne de se rendre. La vidéo a été diffusée en ligne mais a été rapidement démystifiée en tant que deepfake – une vidéo hyperréaliste mais fausse et manipulée produite à l'aide de l'intelligence artificielle.

Alors que la désinformation russe semble avoir un impact limité, cet exemple alarmant illustre les conséquences potentielles des deepfakes.

Cependant, les deepfakes sont utilisés avec succès dans les technologies d'assistance. Par exemple, les personnes atteintes de la maladie de Parkinson peuvent utiliser le clonage vocal pour communiquer.

Les deepfakes sont utilisés dans l'éducation : la société irlandaise de synthèse vocale CereProc a créé une voix synthétique pour John F. Kennedy, le ramenant à la vie pour prononcer son discours historique.


graphique d'abonnement intérieur


Pourtant, chaque médaille a deux faces. Les deepfakes peuvent être hyperréalistes, et fondamentalement indétectable par les yeux humains.

Par conséquent, la même technologie de clonage de la voix pourrait être utilisée pour le phishing, la diffamation et le chantage. Lorsque des deepfakes sont délibérément déployés pour remodeler l'opinion publique, inciter à des conflits sociaux et manipuler des élections, ils ont le potentiel de saper la démocratie.

Des chercheurs de l'Université de Washington ont produit un deepfake de Barack Obama.

Provoquant le chaos

Les deepfakes sont basés sur une technologie connue sous le nom de réseaux accusatoires génératifs dans lequel deux algorithmes s'entraînent mutuellement pour produire des images.

Bien que la technologie derrière les contrefaçons profondes puisse sembler compliquée, il est simple d'en produire une. Il existe de nombreuses applications en ligne telles que Échange de visage et Échange profond ZAO qui peuvent produire des deepfakes en quelques minutes.

Google Colaboratory, un référentiel en ligne de code dans plusieurs langages de programmation, inclut des exemples de code qui peut être utilisé pour générer de fausses images et vidéos. Avec un logiciel aussi accessible, il est facile de voir comment les utilisateurs moyens pourraient faire des ravages avec des deepfakes sans se rendre compte des risques de sécurité potentiels.

La popularité des applications d'échange de visage et des services en ligne comme Nostalgie profonde montrer à quelle vitesse et à quelle échelle les deepfakes pourraient être adoptés par le grand public. En 2019, environ 15,000 XNUMX vidéos utilisant des deepfakes ont été détectées. Et ce nombre devrait augmenter.

Les deepfakes sont l'outil parfait pour les campagnes de désinformation car ils produisent de fausses nouvelles crédibles qui prennent du temps à démystifier. Pendant ce temps, les dommages causés par les deepfakes – en particulier ceux qui affectent la réputation des gens – sont souvent durables et irréversibles.

Voir c'est croire ?

La ramification la plus dangereuse des deepfakes est peut-être la façon dont ils se prêtent à la désinformation dans les campagnes politiques.

Nous l'avons vu lorsque Donald Trump a qualifié toute couverture médiatique peu flatteuse de "fausses nouvelles.” En accusant ses détracteurs de diffuser de fausses nouvelles, Trump a pu utiliser la désinformation pour défendre ses méfaits et comme outil de propagande.

La stratégie de Trump lui permet de maintenir un soutien dans un environnement rempli de méfiance et de désinformation en affirmant «que les vrais événements et histoires sont de fausses nouvelles ou des deepfakes. »

La crédibilité des autorités et des médias est minée, créant un climat de méfiance. Et avec la prolifération croissante des deepfakes, les politiciens pourraient facilement nier leur culpabilité dans tout scandale émergent. Comment l'identité d'une personne dans une vidéo peut-elle être confirmée si elle la nie ?

Cependant, la lutte contre la désinformation a toujours été un défi pour les démocraties alors qu'elles tentent de défendre la liberté d'expression. Les partenariats homme-IA peuvent aider à faire face au risque croissant de deepfakes en demandant aux gens de vérifier les informations. L'introduction d'une nouvelle législation ou l'application de lois existantes pour pénaliser les producteurs de deepfakes pour avoir falsifié des informations et usurpé l'identité de personnes pourraient également être envisagées.

Les approches multidisciplinaires des gouvernements internationaux et nationaux, des entreprises privées et d'autres organisations sont toutes essentielles pour protéger les sociétés démocratiques contre les fausses informations.The Conversation

A propos de l'auteur

Sze-Fung Lee, Assistant de recherche, Département des sciences de l'information, Université McGill et Benjamin CM Fung, professeur et titulaire de la Chaire de recherche du Canada en exploration de données pour la cybersécurité, Université McGill

Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.