Se demander si les ordinateurs seront plus intelligents que les humains nous empêche de saisir le problème éthique sous-jacent des humains qui les créent et les utilisent. (Shutterstock)

À l'âge de l'anthropocène, l’humanité semble prête à se détruire.

Chaque jour nous rappelle une autre menace à notre paix et à notre sécurité. La guerre, l'instabilité politique et le changement climatique envoient migrants et réfugiés à travers les frontières nationales. Cybercriminels pirater les réseaux de établissements publics et privés. Les terroristes utilisent des camions et des avions comme armes.

Et suspendu sinistrement au-dessus de nous tous, comme le épée de Damoclès, se cache la menace d'une annihilation nucléaire.

À l’origine de ces menaces se trouve un problème aussi vieux que l’humanité elle-même.

Dans le domaine de la survie et de la reproduction, l’intelligence humaine se démarque pour une raison précise. Nous sommes la seule espèce sur Terre pour laquelle l’intelligence constitue également un handicap éthique. Comme l'a soutenu le critique anthropologique Eric Gans, nous sommes la seule espèce pour laquelle le le problème de notre violence est aussi notre plus grande menace existentielle.

Les enseignements de la littérature et des mythes occidentaux mettent en évidence le problème éthique au cœur de l’intelligence humaine. La façon dont nous comprenons le rôle de la communication symbolique des humains, y compris le langage dans l'établissement de relations éthiques, a de profondes conséquences sur notre société.

Une responsabilité éthique

Pendant la plus grande partie de l'histoire humaine, contrôler les conflits humains a été la tâche de la religion. Par exemple, parmi les sociétés de chasse et de cueillette, des rituels soigneusement prescrits doivent être suivis. quand la viande est distribuée après une chasse réussie.

Les animaux sont difficiles à suivre et à tuer. La viande est rare et très appréciée. Par conséquent, la possibilité que des violences éclatent pendant la distribution est plus probable. La religion fournit un guide éthique pour la distribution pacifique de la viande.

Le problème éthique de la violence humaine a également été exploré par la littérature.

Par exemple, mon travail sur Shakespeare examine ses pièces comme une tentative systématique de comprendre l'origine des conflits humains. Les pièces de Shakespeare décrivent avec des détails exquis le penchant de l’humanité pour l’autodestruction.

Avant Shakespeare, le poème épique d'Homère, le Iliad traité des thèmes similaires. L'objectif d'Homère n'était pas simplement la guerre entre les Grecs et les Troyens mais, plus précisément, la guerre d'Achille. ressentiment envers son roi, Agamemnon, qui a usé de son autorité pour s'approprier le captif de guerre d'Achille, Briseis.

Achille est de loin le meilleur combattant, mais si les Grecs veulent gagner la guerre, Achille doit apprendre à différer son ressentiment envers son supérieur.

Monstre comme métaphore

Dans les révolutions scientifiques et technologiques de l’ère moderne, cette leçon prend une tournure particulière dans la science-fiction, à commencer par Mary Shelley Frankenstein.

Dans le roman de Mary Shelley, le protagoniste Victor Frankenstein réussit à créer un être capable de penser par lui-même. Mais la créature de Victor devient très vite la rivale détestée de Victor, c'est pourquoi Victor qualifie sa création de monstre hideux. Victor a ce que veut son rival, à savoir une femme et donc la perspective d’avoir des enfants. Le monstre de Victor est une métaphore de la violence que les humains s'infligent les uns aux autres.

Bien entendu, tous les animaux sont en compétition pour des ressources rares. Dans cette compétition darwinienne, la violence entre rivaux est inévitable. D'autres animaux sociaux, comme les chimpanzés, ont des ordres hiérarchiques bien développés qui permettent de désamorcer ou de limiter les conflits autour d'objets controversés. L'animal bêta peut défier l'alpha dans un combat. S'il gagne, il prend la position alpha.

Mais ces défis pour la domination ne sont jamais représenté symboliquement comme des menaces existentielles pour l’ordre social.

Seuls les humains représentent leur capacité de violence symbolique dans la religion, les mythes et la littérature car les humains sont les seuls animaux pour lesquels le plus grand danger, c'est eux-mêmes.

Établir une attention mutuelle : une tâche éthique

L’opinion dominante aujourd’hui est que l’intelligence humaine se mesure par à quelle vitesse un cerveau individuel peut traiter les informations. Cette image du cerveau humain en tant que « processeur d’informations » est elle-même le produit de la conviction que la chose la plus importante dans la parole est de communiquer des faits sur le monde.

Mais ce qui manque dans cette image, c’est une tâche plus fondamentale du langage : établir une attention mutuelle.

Une tâche fondamentale du langage est d’établir une attention mutuelle. (Shutterstock)

Michael Tomasello, professeur de psychologie et de neurosciences spécialisé dans l'apprentissage social, note que vers l'âge de neuf mois, les enfants s'engagent dans ce qu'il appelle scènes d'attention conjointes.

La mère de l'enfant peut montrer quelques fleurs et dire : « De jolies fleurs ! Ce qui est significatif n'est pas seulement que la mère ait prononcé des mots, mais que l'enfant soit invité à s'engager dans une attention commune avec la mère. Les fleurs sont présentées à l'enfant comme un objet d'attention collective et esthétique partagée.

Un ordre social éthique

Ces idées démontrent que l’établissement d’une perception humaine du monde dépend de nos relations avec les autres. Un ordre social éthique dépend de relations éthiques.

À l’ère des médias sociaux, l’essor rapide idéologies extrêmes et théories du complot a souligné l’inefficacité de se concentrer uniquement sur la vérité empirique pour lutter contre l’extrémisme. De nombreuses personnes restent fascinées par des discours ou des idéologies chargées et incendiaires.

Ce fait devrait nous rappeler qu'avant de pouvoir communiquer un concept, nous devons établir une scène d'attention commune.

L’idée selon laquelle le langage sert principalement à communiquer des concepts a des conséquences qui vont au-delà de nous inciter à sous-estimer la menace posée par les discours polarisants, conflictuels ou haineux. Cette vision nous encourage également à considérer les gens comme des réservoirs d’informations discrets, qui nous sont précieux pour notre propre usage, plutôt que comme tels.

Oublier nos responsabilités éthiques

De plus en plus, nos conversations sont médiatisées par le écran numérique omniprésent. C’est bien sûr pratique, mais la commodité a un coût.

Le prix pourrait être que nous oubliions notre responsabilité éthique envers les autres.

Quand les technologues affirment que les ordinateurs pourraient bientôt être plus intelligents que les humains et que L'intelligence artificielle représente une menace existentielle pour l'humanité, ils nous empêchent de saisir le problème éthique sous-jacent, qui ne réside pas dans l’ordinateur mais dans les humains qui le créent et l’utilisent.

Richard van Oort, professeur d'anglais, Université de Victoria

Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.

livres_sensibilisation