Comment l'IA peut désormais apprendre à manipuler le comportement humain

un visage composé de bits et de morceaux de données
Shutterstock

L'intelligence artificielle (IA) en apprend davantage sur la façon de travailler avec (et sur) les humains. UNE étude récente a montré comment l'IA peut apprendre à identifier les vulnérabilités dans les habitudes et les comportements humains et à les utiliser pour influencer la prise de décision humaine.

Il peut sembler cliché de dire que l'IA transforme tous les aspects de notre façon de vivre et de travailler, mais c'est vrai. Diverses formes d'IA sont à l'œuvre dans des domaines aussi divers que le développement de vaccins, la gestion environnementale et l'administration de bureau. Et bien que l'IA ne possède pas d'intelligence et d'émotions semblables à celles des humains, ses capacités sont puissantes et se développent rapidement.

Il n'est pas nécessaire de s'inquiéter pour le moment d'une prise de contrôle de la machine, mais cette découverte récente met en évidence la puissance de l'IA et souligne la nécessité d'une gouvernance appropriée pour éviter les abus.

Comment l'IA peut apprendre à influencer le comportement humain

Une équipe de chercheurs à Data61 de CSIRO, la branche des données et du numérique de l'agence scientifique nationale australienne, a mis au point une méthode systématique de recherche et d'exploitation des vulnérabilités dans la façon dont les gens font des choix, en utilisant une sorte de système d'IA appelé réseau neuronal récurrent et apprentissage par renforcement profond. Pour tester leur modèle, ils ont mené trois expériences dans lesquelles des participants humains ont joué à des jeux contre un ordinateur.

La première expérience impliquait des participants cliquant sur des cases de couleur rouge ou bleue pour gagner une fausse monnaie, l'IA apprenant les modèles de choix des participants et les guidant vers un choix spécifique. L'IA a réussi environ 70% du temps.

Dans la deuxième expérience, les participants devaient regarder un écran et appuyer sur un bouton quand on leur montrait un symbole particulier (comme un triangle orange) et ne pas appuyer dessus quand on leur en montrait un autre (disons un cercle bleu). Ici, l'IA a décidé d'organiser la séquence des symboles pour que les participants fassent plus d'erreurs et obtiennent une augmentation de près de 25%.

La troisième expérience consistait en plusieurs tours au cours desquels un participant prétendait être un investisseur donnant de l'argent à un fiduciaire (l'IA). L'IA rendrait ensuite une somme d'argent au participant, qui déciderait alors du montant à investir dans le tour suivant. Ce jeu se jouait selon deux modes différents: dans l'un, l'IA cherchait à maximiser la somme d'argent avec laquelle elle se retrouvait, et dans l'autre, l'IA visait une répartition équitable de l'argent entre elle-même et l'investisseur humain. L'IA a connu un grand succès dans chaque mode.

Dans chaque expérience, la machine a appris des réponses des participants et identifié et ciblé les vulnérabilités dans la prise de décision des gens. Le résultat final a été la machine apprise à orienter les participants vers des actions particulières.

Dans les expériences, L'intérieur de la tête d'un homme ressemble au schéma d'une carte mère d'ordinateur.n Le système d'IA a appris avec succès à influencer les décisions humaines. Shutterstock

Ce que la recherche signifie pour l'avenir de l'IA

Ces résultats sont encore assez abstraits et impliquent des situations limitées et irréalistes. Des recherches supplémentaires sont nécessaires pour déterminer comment cette approche peut être mise en œuvre et utilisée au profit de la société.


 Recevez le dernier par courriel

Magazine hebdomadaire Daily Inspiration

Mais la recherche fait progresser notre compréhension non seulement de ce que l'IA peut faire, mais aussi de la manière dont les gens font des choix. Cela montre que les machines peuvent apprendre à orienter les choix humains grâce à leurs interactions avec nous.

La recherche a une vaste gamme d'applications possibles, de l'amélioration des sciences du comportement et des politiques publiques pour améliorer le bien-être social, à la compréhension et à l'influence sur la manière dont les gens adoptent des habitudes alimentaires saines ou des énergies renouvelables. L'IA et l'apprentissage automatique pourraient être utilisés pour reconnaître les vulnérabilités des personnes dans certaines situations et les aider à éviter les mauvais choix.

La méthode peut également être utilisée pour se défendre contre les attaques d'influence. On pourrait apprendre aux machines à nous alerter lorsque nous sommes influencés en ligne, par exemple, et à nous aider à façonner un comportement pour déguiser notre vulnérabilité (par exemple, en ne cliquant pas sur certaines pages ou en cliquant sur d'autres pour tracer une fausse piste).

Quelle est la prochaine?

Comme toute technologie, l'IA peut être utilisée en bien ou en mal, et une bonne gouvernance est essentielle pour garantir sa mise en œuvre de manière responsable. L'année dernière, le CSIRO a développé un Cadre d'éthique de l'IA pour le gouvernement australien comme une première étape dans ce voyage.

L'IA et l'apprentissage automatique sont généralement très gourmands en données, ce qui signifie qu'il est essentiel de nous assurer que nous avons des systèmes efficaces en place pour la gouvernance et l'accès aux données. La mise en œuvre de processus de consentement adéquats et de protection de la vie privée lors de la collecte de données est essentielle.

Les organisations qui utilisent et développent l'IA doivent s'assurer qu'elles savent ce que ces technologies peuvent et ne peuvent pas faire, et qu'elles sont conscientes des risques potentiels ainsi que des avantages.

À propos de l’auteure

Jon Whittle, directeur, Data61

Cet article est republié de La Conversation sous une licence Creative Commons. Lis le article original.

Vous aimeriez aussi

suivez InnerSelf sur

Icône facebooktwitter iconyoutube iconicône Instagramicône pintresticône rss

 Recevez le dernier par courriel

Magazine hebdomadaire Daily Inspiration

LANGUES DISPONIBLES

enafarzh-CNzh-TWdanltlfifrdeeliwhihuiditjakomsnofaplptroruesswsvthtrukurvi

LES PLUS LUS

pleine conscience et danse santé mentale 4 27
Comment la pleine conscience et la danse peuvent améliorer la santé mentale
by Adrianna Mendrek, Université Bishop's
Pendant des décennies, le cortex somatosensoriel a été considéré comme étant uniquement responsable du traitement sensoriel…
incapacité du chargeur 9 19
La nouvelle règle du chargeur USB-C montre comment les régulateurs de l'UE prennent des décisions pour le monde
by Renaud Foucart, Université de Lancaster
Avez-vous déjà emprunté le chargeur d'un ami pour découvrir qu'il n'est pas compatible avec votre téléphone ? Ou…
stress social et vieillissement 6 17
Comment le stress social peut accélérer le vieillissement du système immunitaire
by Eric Klopack, Université de Californie du Sud
À mesure que les gens vieillissent, leur système immunitaire commence naturellement à décliner. Ce vieillissement du système immunitaire,…
aliments plus sains une fois cuits 6 19
9 légumes qui sont plus sains une fois cuits
by Laura Brown, Université de Teesside
Tous les aliments ne sont pas plus nutritifs lorsqu'ils sont consommés crus. En effet, certains légumes sont en réalité plus…
jeûne intermittent 6 17
Le jeûne intermittent est-il vraiment bon pour perdre du poids ?
by David Clayton, Université de Nottingham Trent
Si vous êtes quelqu'un qui a pensé à perdre du poids ou qui a voulu être en meilleure santé ces dernières…
homme. femme et enfant à la plage
Est-ce le jour ? Tournage pour la fête des pères
by Will Wilkinson
C'est la fête des pères. Quelle est la signification symbolique ? Quelque chose de bouleversant pourrait-il se produire aujourd'hui dans votre...
difficulté à payer les factures et santé mentale 6 19
La difficulté à payer les factures peut avoir de lourdes conséquences sur la santé mentale des pères
by Joyce Y. Lee, Université d'État de l'Ohio
Les recherches antérieures sur la pauvreté ont été principalement menées auprès des mères, avec un accent prédominant sur les faibles…
effets du bpa sur la santé 6 19
Quelles décennies de recherche documentent les effets du BPA sur la santé
by Tracey Woodruff, Université de Californie, San Francisco
Que vous ayez entendu parler ou non du bisphénol A, mieux connu sous le nom de BPA, des études montrent que…

Nouvelles attitudes - nouvelles possibilités

InnerSelf.comClimateImpactNews.com | InnerPower.net
MightyNatural.com | WholisticPolitics.com | InnerSelf Marché
Copyright © 1985 - 2021 InnerSelf Publications. Tous les droits sont réservés.