tamiord7

Un exemple de crevette Jésus. Générateur d'IA Shutterstock

Si vous recherchez « Jésus-crevette » sur Facebook, vous pourriez rencontrer des dizaines d’images de crustacés générés par l’intelligence artificielle (IA) mêlés sous diverses formes à une image stéréotypée de Jésus-Christ.

Certaines de ces images hyperréalistes ont récolté plus de 20,000 XNUMX likes et commentaires. Alors, que se passe-t-il exactement ici ?

La « théorie de l’Internet mort » a une explication : le contenu généré par l’IA et les robots a dépassé l’Internet généré par l’homme. Mais d’où vient cette idée et a-t-elle un quelconque fondement dans la réalité ?

Quelle est la théorie de la mort d’Internet ?

La théorie de l’Internet mort affirme essentiellement que l’activité et le contenu sur Internet, y compris les comptes de réseaux sociaux, sont principalement créés et automatisés par des agents d’intelligence artificielle.

Ces agents peuvent rapidement créer des publications aux côtés d’images générées par l’IA conçues pour susciter l’engagement (clics, likes, commentaires) sur des plateformes telles que Facebook, Instagram et TikTok. Quant à la crevette Jésus, il semble qu’AI ait appris qu’il s’agit du dernier mélange actuel d’absurdité et d’iconographie religieuse devenu viral.

Mais la théorie de la mort d’Internet va encore plus loin. De nombreux comptes qui interagissent avec ce type de contenu aussi semblent être gérés par des agents d’intelligence artificielle. Cela crée un cercle vicieux d’engagement artificiel, sans agenda clair et n’impliquant plus du tout les humains.


graphique d'abonnement intérieur


Agriculture d’engagement inoffensive ou propagande sophistiquée ?

À première vue, la motivation qui pousse ces comptes à susciter l’intérêt peut sembler évidente : l’engagement sur les réseaux sociaux génère des revenus publicitaires. Si une personne crée un compte qui reçoit un engagement gonflé, elle peut gagner une part des revenus publicitaires d'organisations de médias sociaux telles que Meta.

Alors, la théorie de l’Internet mort s’arrête-t-elle à une agriculture d’engagement inoffensive ? Ou peut-être que sous la surface se cache une tentative sophistiquée et bien financée pour soutenir des régimes autocratiques, attaquer leurs opposants et diffuser de la propagande ?

Bien que le phénomène de Jésus-crevette puisse sembler inoffensif (bien que bizarre), il existe potentiellement un stratagème à plus long terme.

À mesure que le nombre d’abonnés de ces comptes basés sur l’IA augmente (beaucoup de faux, certains réels), le nombre élevé d’abonnés légitime le compte auprès des vrais utilisateurs. Cela signifie qu’une armée de comptes est en train d’être créée. Comptes avec un nombre élevé de followers qui pourraient être déployés par ceux ayant l'enchère la plus élevée.

Ceci est d’une importance cruciale, car les médias sociaux sont désormais la principale source d’information pour de nombreux utilisateurs à travers le monde. En Australie, 46% des 18-24 ans ont désigné les médias sociaux comme leur principale source d’information l’année dernière. Ce chiffre est en hausse par rapport aux 28 % de 2022, prenant le relais des médias traditionnels tels que la radio et la télévision.

Désinformation alimentée par les robots

Il existe déjà des preuves solides que les médias sociaux sont manipulés par ces robots gonflés pour influencer l'opinion publique par la désinformation – et cela se produit depuis des années.

En 2018, une étude a analysé 14 millions de tweets sur une période de dix mois en 2016 et 2017. Elle a révélé que les robots sur les réseaux sociaux étaient significativement impliqué dans la diffusion d'articles provenant de sources peu fiables. Les comptes avec un nombre élevé d'abonnés légitimaient la désinformation et la désinformation, amenant les vrais utilisateurs à croire, à s'engager et à repartager le contenu publié par les robots.

Cette approche de la manipulation des médias sociaux s’est produite après des fusillades de masse aux États-Unis. En 2019, une étude a révélé des publications générées par des robots sur X (anciennement Twitter) contribuer fortement au débat public, servant à amplifier ou à déformer les récits potentiels associés à des événements extrêmes.

Plus récemment, plusieurs campagnes de désinformation pro-russes à grande échelle ont visé à saper le soutien à l’Ukraine et promouvoir le sentiment pro-russe.

Découverts par des militants et des journalistes, les efforts coordonnés ont utilisé des robots et l’IA pour créer et diffuser de fausses informations, atteignant ainsi des millions d’utilisateurs des réseaux sociaux.

Rien que sur X, la campagne a utilisé plus de 10,000 XNUMX comptes de robots pour publier rapidement des dizaines de milliers de messages de contenu pro-Kremlin attribués apparemment à des célébrités américaines et européennes. soutenir la guerre en cours contre l’Ukraine.

Cette échelle d’influence est significative. Certains rapports ont même révélé que près de la moitié de tout le trafic Internet en 2022 était fait par des robots. Avec les récents progrès de l'IA générative – tels que les modèles ChatGPT d'OpenAI et Gemini de Google – la qualité des faux contenus ne fera que s'améliorer.

Les organisations de médias sociaux cherchent à lutter contre l’utilisation abusive de leurs plateformes. Elon Musk a notamment envisagé d’exiger que les utilisateurs de X paient leur adhésion pour arrêter les fermes de robots.

 

Les géants des médias sociaux sont capables de supprimer de grandes quantités d’activités de robots détectées, s’ils le souhaitent. (Mauvaise nouvelle pour notre sympathique crevette Jésus.)

Gardez à l'esprit l'Internet mort

La théorie de l’Internet mort n’est pas vraiment affirmant que la plupart de vos interactions personnelles sur Internet sont fausses.

Il s’agit cependant d’un prisme intéressant pour observer Internet. Qu’il n’est plus pour les humains, par les humains – c’est dans ce sens qu’Internet que nous connaissions et aimions est « mort ».

La liberté de créer et de partager nos pensées sur Internet et les réseaux sociaux est ce qui le rend si puissant. Naturellement, c’est ce pouvoir que les mauvais acteurs cherchent à contrôler.

La théorie de l’Internet mort nous rappelle qu’il faut être sceptique et naviguer sur les réseaux sociaux et autres sites Web avec un esprit critique.

Toute interaction, tendance et surtout « sentiment général » pourrait très bien être synthétique. Conçu pour changer légèrement la façon dont vous percevez le monde.The Conversation

Jake Renzella, Maître de conférences, Directeur d'études (Informatique), UNSW Sydney et Vlada Rozova, chercheur en apprentissage automatique appliqué, L'Université de Melbourne

Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.