Un compte de bot social typique. CCB

Les plateformes de médias sociaux sont devenues plus que de simples outils de communication. Ils sont devenus des arènes animées où la vérité et le mensonge se heurtent. Parmi ces plateformes, X s'impose comme une champ de bataille important. C’est un endroit où prospèrent les campagnes de désinformation, perpétuées par des armées de robots dotés d’IA et programmés pour influencer l’opinion publique et manipuler les récits.

Les robots basés sur l'IA sont des comptes automatisés conçus pour imiter le comportement humain. Les robots sur les réseaux sociaux, les plateformes de chat et l’IA conversationnelle font partie intégrante de la vie moderne. Ils sont nécessaires pour que les applications d’IA fonctionnent efficacement, par exemple.

Mais certains robots sont conçus dans un but malveillant. Étonnamment, les robots constituent une partie importante de la base d'utilisateurs de X. En 2017 il a été estimé qu'il y avait environ 23 millions de robots sociaux représentant 8.5 % du total des utilisateurs. Plus des deux tiers des tweets provenaient de ces comptes automatisés, amplifiant la portée de la désinformation et brouillant les eaux du discours public.

Comment fonctionnent les robots

L’influence sociale est désormais un bien qui peut être acquis en achetant des robots. Les entreprises vendent de faux abonnés pour augmenter artificiellement la popularité des comptes. Ces adeptes sont disponibles à des prix remarquablement bas, avec de nombreuses célébrités parmi les acheteurs.

Au cours de nos recherches, par exemple, des collègues et moi-même avons détecté un robot qui avait publié 100 tweets proposant des abonnés à vendre.

En utilisant des méthodologies d'IA et une approche théorique appelée théorie de l'acteur-réseau, mes collègues et moi-même avons analysé la façon dont les robots sociaux malveillants manipulent les médias sociaux, influençant ce que les gens pensent et comment ils agissent avec une efficacité alarmante. Nous pouvons déterminer si les fausses nouvelles ont été générées par un humain ou un robot avec un taux de précision de 79.7 %. Il est crucial de comprendre comment les humains et l’IA diffusent la désinformation afin de comprendre comment les humains exploitent l’IA pour diffuser la désinformation.

Pour prendre un exemple, nous avons examiné l’activité d’un compte nommé « True Trumpers » sur Twitter.

Le compte a été créé en août 2017, n'a ni abonnés ni photo de profil, mais avait, au moment de la recherche, publié 4,423 XNUMX tweets. Celles-ci comprenaient une série d’histoires entièrement fabriquées. Il convient de noter que ce robot est originaire d’un pays d’Europe de l’Est.

Un flux de fausses nouvelles provenant d’un compte de robot. BuzzFeed, CC BY

Des recherches comme celle-ci ont incité X à restreindre les activités des robots sociaux. En réponse à la menace de manipulation des médias sociaux, X a mis en place des limites de lecture temporaires pour limiter le grattage et la manipulation des données. Les comptes vérifiés sont limités à la lecture de 6,000 600 publications par jour, tandis que les comptes non vérifiés peuvent en lire XNUMX par jour. Il s'agit d'une nouvelle mise à jour, nous ne savons donc pas encore si elle a été efficace.

Pouvons-nous nous protéger ?

Cependant, il incombe en fin de compte aux utilisateurs de faire preuve de prudence et de discerner le vrai du faux, en particulier en période électorale. En évaluant de manière critique les informations et en vérifiant les sources, les utilisateurs peuvent jouer un rôle dans la protection de l’intégrité des processus démocratiques contre les assauts des robots et les campagnes de désinformation sur X. Chaque utilisateur est, en fait, un défenseur de première ligne de la vérité et de la démocratie. La vigilance, la pensée critique et une bonne dose de scepticisme sont des armures essentielles.

Avec les réseaux sociaux, il est important que les utilisateurs comprennent les stratégies employées par les comptes malveillants.

Les acteurs malveillants utilisent souvent des réseaux de robots pour amplifier de faux récits, manipuler les tendances et diffuser rapidement des informations erronées. Les utilisateurs doivent faire preuve de prudence lorsqu'ils rencontrent des comptes présentant un comportement suspect, tel qu'une publication excessive ou des messages répétitifs.

La désinformation est également fréquemment propagée via des sites Web dédiés aux fausses nouvelles. Ceux-ci sont conçus pour imiter des sources d’information crédibles. Il est conseillé aux utilisateurs de vérifier l'authenticité des sources d'information en croisant les informations avec des sources réputées et en consultant des organismes de vérification des faits.

La conscience de soi est une autre forme de protection, notamment contre les tactiques d’ingénierie sociale. La manipulation psychologique est souvent déployée pour inciter les utilisateurs à croire des mensonges ou à s'engager dans certaines actions. Les utilisateurs doivent rester vigilants et évaluer de manière critique le contenu qu’ils rencontrent, en particulier pendant les périodes de sensibilité accrue telles que les élections.

En restant informés, en participant à un débat civil et en plaidant pour la transparence et la responsabilité, nous pouvons collectivement façonner un écosystème numérique qui favorise la confiance, la transparence et une prise de décision éclairée.

Nick Hajli, stratège en IA et professeur de stratégie numérique, Université de Loughborough

Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.

Livres connexes:

De la tyrannie : vingt leçons du XXe siècle

de Timothy Snyder

Ce livre offre des leçons de l'histoire pour préserver et défendre la démocratie, y compris l'importance des institutions, le rôle des citoyens individuels et les dangers de l'autoritarisme.

Cliquez pour plus d'informations ou pour commander

Notre temps est venu: pouvoir, but et lutte pour une Amérique équitable

par Stacey Abrams

L'auteure, politicienne et militante, partage sa vision d'une démocratie plus inclusive et plus juste et propose des stratégies pratiques d'engagement politique et de mobilisation des électeurs.

Cliquez pour plus d'informations ou pour commander

Comment meurent les démocraties

de Steven Levitsky et Daniel Ziblatt

Ce livre examine les signes avant-coureurs et les causes de l'effondrement de la démocratie, en s'appuyant sur des études de cas du monde entier pour offrir un aperçu de la manière de sauvegarder la démocratie.

Cliquez pour plus d'informations ou pour commander

Le peuple, non : une brève histoire de l'antipopulisme

par Thomas Frank

L'auteur propose une histoire des mouvements populistes aux États-Unis et critique l'idéologie "anti-populiste" qui, selon lui, a étouffé la réforme et le progrès démocratiques.

Cliquez pour plus d'informations ou pour commander

La démocratie en un livre ou moins : comment ça marche, pourquoi ça ne marche pas et pourquoi y remédier est plus facile que vous ne le pensez

par David Litt

Ce livre offre un aperçu de la démocratie, y compris ses forces et ses faiblesses, et propose des réformes pour rendre le système plus réactif et responsable.

Cliquez pour plus d'informations ou pour commander