À mesure que l’intelligence artificielle s’immisce de plus en plus dans la vie quotidienne des gens, les inquiétudes à son sujet augmentent également. Les inquiétudes les plus alarmistes concernant l’IA devenir voyou et mettre fin à ses maîtres humains.

Mais derrière les appels à un pause sur le développement de l'IA est une suite de maux sociaux plus tangibles. Parmi eux figurent les risques que l’IA fait peser sur la vie des gens. intimité et dignité et le fait inévitable que, parce que les algorithmes sous le capot de l'IA sont programmés par des humains, il est tout aussi biaisé ainsi que discriminatoire comme beaucoup d'entre nous. Jetez-y le le manque de transparence sur la façon dont l'IA est conçue, et Par qui, et il est facile de comprendre pourquoi tant de temps est consacré à débattre de ses risques autant que son potentiel.

Mais ma propre recherche en tant que psychologue qui étudie la façon dont les gens prennent des décisions me porte à croire que tous ces risques sont éclipsés par une menace encore plus corruptrice, quoique largement invisible. Autrement dit, l’IA n’est qu’à quelques touches de clavier pour rendre les gens encore moins disciplinés et moins compétents lorsqu’il s’agit de décisions réfléchies.

Prendre des décisions réfléchies

Le processus de prise de décisions réfléchies implique trois étapes de bon sens cela commence par prendre le temps de comprendre la tâche ou le problème auquel vous êtes confronté. Demandez-vous ce que vous devez savoir et que devez-vous faire pour prendre une décision que vous pourrez défendre de manière crédible et confiante plus tard ?

Les réponses à ces questions dépendent de la recherche active d’informations qui comblent les lacunes de vos connaissances et remettent en question vos croyances et hypothèses antérieures. En fait, c'est ça informations contrefactuelles – des possibilités alternatives qui émergent lorsque les gens se déchargent de certaines hypothèses – qui vous permettent en fin de compte de défendre vos décisions lorsqu'elles sont critiquées.

Des décisions réfléchies impliquent de prendre en compte vos valeurs et de peser les compromis.

La deuxième étape consiste à rechercher et à considérer plusieurs options à la fois. Vous souhaitez améliorer votre qualité de vie ? Qu'il s'agisse de pour qui vous votez, des emplois que vous acceptez ou des choses que vous achetez, il y a toujours plus d'un chemin qui vous y mènera. Déployer des efforts pour examiner et évaluer activement au moins quelques options plausibles, et d'une manière honnête quant au les compromis que vous êtes prêt à faire leurs avantages et leurs inconvénients, est la marque d'un choix réfléchi et défendable.

La troisième étape est d'être prêt à retarder la fermeture sur une décision jusqu'à ce que vous ayez fait tout le nécessaire gros travail mental. Ce n'est pas un secret : la clôture fait du bien car cela signifie que vous avez laissé derrière vous une décision difficile ou importante. Mais le coût d’un départ prématuré peut être bien plus élevé que de prendre le temps de faire ses devoirs. Si tu ne me crois pas, pense juste à toutes ces fois où tu t'es laissé guider par tes sentiments, seulement pour éprouver des regrets parce que tu n'as pas pris le temps de réfléchir un peu plus.

Les dangers de l’externalisation des décisions vers l’IA

Aucune de ces trois étapes n’est terriblement difficile à franchir. Mais pour la plupart, ce sont pas intuitif soit. Prendre des décisions réfléchies et défendables nécessite de la pratique et de l’autodiscipline. Et c’est là qu’intervient le préjudice caché auquel l’IA expose les gens : l’IA réfléchit pour l’essentiel en coulisses et présente aux utilisateurs des réponses dépourvues de contexte et de délibération. Pire encore, l’IA prive les gens de la possibilité de s’entraîner par eux-mêmes à prendre des décisions réfléchies et défendables.

Réfléchissez à la façon dont les gens abordent de nombreuses décisions importantes aujourd’hui. Les humains sont bien connus pour être sujet à un large éventail de préjugés parce que nous avons tendance à être économes lorsqu’il s’agit de dépenser de l’énergie mentale. Cette frugalité amène les gens à l'apprécier lorsqu'il semble bon ou digne de confiance. les décisions sont prises pour eux. Et nous sommes animaux sociaux qui ont tendance à accorder plus d’importance à la sécurité et à l’acceptation de leurs communautés qu’à leur propre autonomie.

Ajoutez l’IA au mélange et vous obtenez une dangereuse boucle de rétroaction : les données que l’IA exploite pour alimenter ses algorithmes sont constitué de décisions biaisées des gens qui reflètent également la pression du conformisme au lieu de la sagesse de raisonnement critique. Mais parce que les gens aiment que les décisions soient prises à leur place, ils ont tendance à accepter ces mauvaises décisions et à passer à la suivante. En fin de compte, ni nous ni AI n’en sortons plus sages.

Être réfléchi à l’ère de l’IA

Il serait erroné de prétendre que l’IA n’apportera aucun bénéfice à la société. Ce sera très probablement le cas, en particulier dans des domaines comme cybersécurité, soins de santé ainsi que finance, où des modèles complexes et des quantités massives de données doivent être analysés régulièrement et rapidement. Cependant, la plupart de nos décisions quotidiennes ne nécessitent pas ce type de puissance analytique.

Mais que nous l’ayons demandé ou non, beaucoup d’entre nous ont déjà reçu des conseils – et des travaux réalisés par – l’IA dans des contextes allant de divertissement ainsi que Voyage à devoirs scolaires, soins de santé ainsi que finance. Et les designers travaillent dur sur IA de nouvelle génération qui pourra automatiser encore plus nos décisions quotidiennes. Et cela, à mon avis, est dangereux.

Dans un monde où ce que pensent les gens et comment ils sont déjà assiégés grâce à la algorithmes des médias sociaux, nous risquons de nous mettre dans une position encore plus périlleuse si nous permettons à l’IA d’atteindre un niveau de sophistication lui permettant de prendre toutes sortes de décisions en notre nom. En effet, nous nous devons de résister à l’appel des sirènes de l’IA et de nous réapproprier le véritable privilège – et la responsabilité – d’être humain : être capable de penser et de choisir par nous-mêmes. Nous nous sentirons mieux et, surtout, nous serons meilleurs si nous le faisons.

Joe Arvai, Professeur Dana et David Dornsife de psychologie et directeur du Wrigley Institute for Environment and Sustainability, Collège des lettres, des arts et des sciences de l'USC Dornsife

Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.