Les futurs historiens pourraient bien considérer 2023 comme une date charnière dans l’avènement de l’intelligence artificielle (IA). Mais si cet avenir prouvera utopique, apocalyptique or quelque part entre les deux est-ce que quelqu'un devine

En février, ChatGPT a établi le record de l'application la plus rapide à atteindre 100 millions d'utilisateurs. Il a été suivi par des modèles d’IA similaires en « grand langage » de Google, Amazon, Meta et d’autres grandes entreprises technologiques, qui semblent collectivement prêts à transformer l’éducation, la santé et de nombreux autres domaines à forte intensité de connaissances.

Cependant, le potentiel nocif de l’IA a été souligné en mai par une déclaration inquiétante signé par des chercheurs de renom :

L'atténuation du risque d'extinction de l'IA devrait être une priorité mondiale aux côtés d'autres risques à l'échelle de la société tels que les pandémies et la guerre nucléaire.

En novembre, répondant aux inquiétudes croissantes concernant les risques liés à l’IA, 27 pays (dont le Royaume-Uni, les États-Unis, l’Inde, la Chine et l’Union européenne) se sont engagés à coopérer lors du premier sommet sur la sécurité de l’IA à Bletchley Park en Angleterre, pour garantir le développement sûr de l’IA. pour le bénéfice de tous.

Pour y parvenir, les chercheurs se concentrent sur Alignement de l'IA – c’est-à-dire comment s’assurer que les modèles d’IA sont cohérents avec les valeurs, les préférences et les objectifs humains. Mais il y a un problème : ce qu’on appelle l’IA »secret sombre» : les modèles à grande échelle sont si complexes qu’ils ressemblent à une boîte noire, impossible à comprendre pleinement.

Le problème de la boîte noire de l’IA

Bien que la transparence et l’explicabilité des systèmes d’IA soient objectifs de recherche importants, de tels efforts semblent peu susceptibles de suivre le rythme frénétique de l’innovation.

La métaphore de la boîte noire explique pourquoi les croyances des gens à l’égard de l’IA sont omniprésentes. Les prédictions vont de l’utopie à l’extinction, et nombreux sont ceux qui pensent même qu’une intelligence artificielle générale (AGI) verra bientôt le jour. atteindre la sensibilité.

Mais cette incertitude aggrave le problème. L’alignement de l’IA doit être une voie à double sens : nous devons non seulement garantir que les modèles d’IA sont cohérents avec les intentions humaines, mais également que nos convictions sur l’IA sont exactes.

C’est parce que nous sommes remarquablement habiles à créer des futurs qui correspondent à ces croyances, même si nous n’en sommes pas conscients.

Soi-disant "effets d'espérance», ou prophéties auto-réalisatrices, sont bien connues en psychologie. Et des recherches ont montré que la manipulation des croyances des utilisateurs n’influence pas seulement la manière dont ils interagir avec l'IA, mais comment l'IA s'adapte à l'utilisateur.

En d’autres termes, la façon dont nos croyances (conscientes ou inconscientes) affectent l’IA peut potentiellement augmenter la probabilité de tout résultat, y compris catastrophique.

IA, calcul, logique et arithmétique

Nous devons approfondir nos recherches pour comprendre les fondements de l’IA – comme Alice au pays des merveilles, descendez dans le terrier du lapin et voyez où cela nous mène.

Tout d’abord, qu’est-ce que l’IA ? Il fonctionne sur des ordinateurs, tout comme le calcul automatisé. De son origine comme le «perceptron» – un neurone artificiel défini mathématiquement en 1943 par un neurophysiologiste Warren McCulloch et logicien Walter Pitt – L’IA est étroitement liée aux sciences cognitives, aux neurosciences et à l’informatique.

Cette convergence de esprits, cerveaux ainsi que machines a conduit à la croyance largement répandue selon laquelle, parce que l’IA est un calcul par une machine, alors l’intelligence naturelle (l’esprit) doit être un calcul par le cerveau.

Mais qu’est-ce que le calcul ? À la fin du XIXe siècle, les mathématiciens Richard Dedekind ainsi que Giuseppe Peano proposé un ensemble d'axiomes qui arithmétique définie en termes de logique, et des tentatives inspirées pour fonder toutes les mathématiques sur un support sécurisé base formelle.

Bien que le logicien Kurt Godel a prouvé plus tard que cet objectif était irréalisable, son travail a été le point de départ du mathématicien (et du décrypteur) Alan Turing. Son "Machine de Turing», un dispositif abstrait capable de calcul universel, est le fondement de l’informatique.

Structure profonde de la perception

Ainsi, le calcul est basé sur des idées mathématiques qui remontent aux efforts visant à définir l’arithmétique en logique. Mais notre connaissance de l'arithmétique existe avant la logique. Si nous voulons comprendre les fondements de l’IA, nous devons aller plus loin et nous demander d’où vient l’arithmétique elle-même.

Mes collègues et moi avons récemment montré que l'arithmétique est basée sur le « structure profonde» de perception. Cette structure est comme des verres colorés qui façonnent notre perception de manière particulière, de sorte que notre expérience du monde soit ordonnée et gérable.

L'arithmétique consiste en un ensemble d'éléments (nombres) et d'opérations (addition, multiplication) qui combinent des paires d'éléments pour donner un autre élément. Nous avons demandé : parmi toutes les possibilités, pourquoi les nombres sont-ils les éléments, et l'addition et la multiplication les opérations ?

Nous avons montré par preuve mathématique que lorsque l’on supposait que la structure profonde de la perception limitait les possibilités, l’arithmétique en était le résultat. En d’autres termes, lorsque notre esprit voit le monde abstrait à travers les mêmes « lunettes colorées » qui façonnent notre expérience du monde physique, il « voit » les nombres et l’arithmétique.

Parce que l’arithmétique est le fondement des mathématiques, cela implique que les mathématiques sont le reflet de l’esprit – une expression symbolique de sa nature fondamentale et de sa créativité.

Bien que la structure profonde de la perception soit partagée avec d’autres animaux et soit donc un produit de l’évolution, seuls les humains ont inventé les mathématiques. Il s’agit de notre création la plus intime – et en permettant le développement de l’IA, peut-être de notre plus grande conséquence.

Une révolution copernicienne de l'esprit

Notre compte de l'origine de l'arithmétique est conforme aux vues du philosophe du XVIIIe siècle Emmanuel Kant. Selon lui, notre connaissance du monde est structurée par des « intuitions pures » de l’espace et du temps qui existent avant l’expérience sensorielle – analogues aux lunettes colorées que nous ne pouvons jamais retirer.

Kant revendiquait son philosophie était une « révolution copernicienne de l’esprit ». De la même manière que les anciens astronomes croyaient que le Soleil tournait autour de la Terre parce qu’ils n’étaient pas conscients du mouvement de la Terre, affirmait Kant, les philosophes qui croyaient que toute connaissance découlait de expérience sensorielle (John Locke et David Hume, par exemple) ont négligé la manière dont l’esprit façonne la perception.

Même si les opinions de Kant ont été façonnées par sciences naturelles de son époque, ils ont prouvé influent dans la psychologie contemporaine.

La reconnaissance du fait que l'arithmétique est un conséquence naturelle de notre perception, et donc biologique, suggère un changement kantien similaire dans notre compréhension du calcul.

Le calcul n’est pas « extérieur » ou séparé de nous dans un domaine abstrait de vérité mathématique, mais inhérent à la nature de notre esprit. L'esprit est plus qu'un simple calcul ; le cerveau n'est pas un ordinateur. Le calcul – la base de l’IA – est plutôt, comme les mathématiques, une expression symbolique de la nature et de la créativité de l’esprit.

Feu prométhéen

Quelles sont les implications pour l’IA ? Premièrement, l’IA n’est pas un esprit et ne deviendra jamais sensible. L'idée que nous pouvons transcender notre nature biologique et atteindre l'immortalité en téléchargeant notre esprit sur le cloud n'est qu'une simple idée. de fantaisie.

Pourtant, si les principes mentaux sur lesquels repose l’IA sont partagés par toute l’humanité (et probablement par d’autres créatures vivantes également), il pourrait être possible de transcender les limites de notre esprit individuel.

Le calcul étant universel, nous sommes libres de simuler et de créer le résultat de notre choix dans nos mondes virtuels et physiques de plus en plus connectés. De cette façon, l’IA est véritablement notre Feu prométhéen, un cadeau à l'humanité volé aux dieux comme dans mythologie grecque.

En tant que civilisation mondiale, nous sommes probablement à un tournant. L'IA ne deviendra pas sensible et ne décidera pas de tuez-nous tous. Mais nous sommes tout à fait capables de nous « apocalypser » grâce à cela – les attentes peuvent créer la réalité.

Les efforts visant à garantir l’alignement, la sûreté et la sécurité de l’IA sont d’une importance vitale, mais pourraient ne pas suffire si nous manquons de sensibilisation et de sagesse collective. Comme Alice, nous devons nous réveiller du rêve et reconnaître la réalité et le pouvoir de notre esprit.

Randolph Grâce, Professeur de psychologie, Université de Canterbury

Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.