Au cœur du développement de l'IA apparaît la recherche de la perfection. Et cela pourrait être tout aussi dangereux pour l'humanité que celui qui provenait des idées philosophiques et pseudoscientifiques du XIXe et du début du XXe siècle et qui a conduit aux horreurs du colonialisme, de la guerre mondiale et de l'Holocauste. Au lieu d'une «race maîtresse» humaine dirigeante, nous pourrions nous retrouver avec une race de machine.

Si cela semble extrême, considérez le perfectionnisme anti-humain qui est déjà au cœur du marché du travail. Ici, la technologie de l'IA est la prochaine étape dans la prémisse d'une productivité maximale qui a remplacé l'artisanat individuel par la ligne de production en usine. Ces changements massifs de productivité et de notre façon de travailler ont créé des opportunités et des menaces qui vont maintenant être aggravées par un «quatrième révolution industrielle»Dans lequel l'IA remplace davantage les travailleurs humains.

Plusieurs documents de recherche récents prédisent que, d'ici une décennie, l'automatisation remplacera la moitié des emplois actuels. Ainsi, au moins dans cette transition vers une nouvelle économie numérisée, de nombreuses personnes perdront leurs moyens de subsistance. Même si nous supposons que cette nouvelle révolution industrielle engendrera une nouvelle main-d'œuvre capable de naviguer et de contrôler ce monde dominé par les données, nous devrons encore faire face à des problèmes socio-économiques majeurs. Les perturbations seront immenses et devront être examinées de près.

Le but ultime de l'IA, même une IA étroite qui gère des tâches très spécifiques, est de surpasser et de perfectionner toutes les fonctions cognitives humaines. Finalement, les systèmes d'apprentissage automatique pourraient bien être programmés pour être meilleurs que les humains en tout.

Ce qu'ils peuvent ne jamais développer, cependant, c'est le contact humain - l'empathie, l'amour, la haine ou l'une des autres émotions conscientes de soi qui nous rendent humains. C'est à moins que nous leur attribuions ces sentiments, ce qui certains d'entre nous font déjà avec nos «Alexas» et «Siris».

Productivité vs contact humain

L'obsession de la perfection et de «l'hyper-efficacité» a eu un impact profond sur les relations humaines, voire la reproduction humaine, car les gens vivent leur vie dans des réalités virtuelles cloîtrées de leur propre création. Par exemple, plusieurs entreprises basées aux États-Unis et en Chine ont produit des poupées robotiques qui se vendent rapidement en tant que partenaires de remplacement.

Un homme en Chine même épousa sa cyber-poupée, tandis que une femme en France «Épousa» un «robot-homme», annonçant son histoire d'amour comme une forme de «robot-sexualité» et faisant campagne pour légaliser son mariage. «Je suis vraiment et totalement heureuse», a-t-elle déclaré. «Notre relation s’améliorera de plus en plus à mesure que la technologie évoluera.» Là semble être forte demande d'épouses et de maris robots partout dans le monde.

Dans le monde parfaitement productif, les humains seraient considérés comme sans valeur, certes en termes de productivité mais aussi en termes de notre faible humanité. À moins que nous n'abandonnions cette attitude perfectionniste envers la vie qui place la productivité et la «croissance matérielle» au-dessus de la durabilité et du bonheur individuel, la recherche en IA pourrait être une autre chaîne dans l'histoire des inventions humaines autodestructrices.

On assiste déjà à une discrimination dans les calculs algorithmiques. Récemment, un populaire Le chatbot sud-coréen nommé Lee Luda a été mis hors ligne. «Elle» a été modelée sur le personnage d'une étudiante universitaire de 20 ans et a été retirée de Facebook Messenger après avoir utilisé un discours de haine envers les personnes LGBT.

Pendant ce temps, les armes automatisées programmées pour tuer portent des maximes telles que «productivité» et «efficacité» dans la bataille. En conséquence, la guerre est devenue plus durable. La prolifération de la guerre des drones est un exemple très frappant de ces nouvelles formes de conflit. Ils créent une réalité virtuelle qui est presque absente de notre portée.

Mais il serait comique de dépeindre l'IA comme un cauchemar orwellien inévitable d'une armée de «Terminators» super intelligents dont la mission est d'effacer la race humaine. De telles prédictions dystopiques sont trop grossières pour capturer l'essentiel de l'intelligence artificielle et son impact sur notre vie quotidienne.

Les sociétés peuvent bénéficier de l'IA si elle est développée en gardant à l'esprit le développement économique durable et la sécurité humaine. La confluence du pouvoir et de l'IA qui poursuit, par exemple, systèmes de contrôle et de surveillance, ne doit pas se substituer à la promesse d'une IA humanisée qui met la technologie d'apprentissage automatique au service des humains et non l'inverse.

À cette fin, les interfaces IA-humain qui s'ouvrent rapidement dans les prisons, les soins de santé, le gouvernement, la sécurité sociale et le contrôle aux frontières, par exemple, doivent être réglementées pour favoriser l'éthique et la sécurité humaine par rapport à l'efficacité institutionnelle. Les sciences sociales et humaines ont une beaucoup à dire sur ces questions.

Une chose dont il faut se réjouir est la probabilité que l'IA ne remplacera jamais la philosophie et l'intellectualité humaines. Pour être philosophe, après tout, il faut de l'empathie, une compréhension de l'humanité et nos émotions et motivations innées. Si nous pouvons programmer nos machines pour comprendre ces normes éthiques, alors la recherche sur l'IA a la capacité d'améliorer nos vies, ce qui devrait être l'objectif ultime de toute avancée technologique.

Mais si la recherche sur l'IA aboutit à une nouvelle idéologie centrée sur la notion de perfectionnisme et de productivité maximale, alors ce sera une force destructrice qui conduira à plus de guerres, plus de famines et plus de détresse sociale et économique, en particulier pour les pauvres. À ce moment de l'histoire mondiale, ce choix est toujours le nôtre.

A propos de l'auteur

Arshin Adib-Moghaddam, professeur en pensée globale et philosophies comparées, SOAS, Université de Londres

Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.