shutterstock.
Les sociétés occidentales individualistes sont fondées sur l'idée que personne ne connaît nos pensées, nos désirs ou nos joies mieux que nous. Et nous nous sommes donc mis nous-mêmes, plutôt que le gouvernement, en charge de nos vies. Nous avons tendance à être d'accord avec le philosophe Réclamation d'Emmanuel Kant que personne n'a le droit de nous imposer l'idée de la bonne vie.
L'intelligence artificielle (IA) va changer cela. Il nous connaîtra mieux que nous nous connaissons nous-mêmes. Un gouvernement armé d'IA pourrait prétendre savoir ce que son peuple veut vraiment et ce qui le rendra vraiment heureux. Au mieux, il s'en servira pour justifier le paternalisme, au pire, le totalitarisme.
Chaque enfer commence par une promesse du paradis. Le totalitarisme dirigé par l'IA ne sera pas différent. La liberté deviendra obéissance à l'État. Seuls les irrationnels, méchants ou subversifs peuvent souhaiter choisir leur propre voie.
Pour éviter une telle dystopie, nous ne devons pas permettre aux autres d'en savoir plus sur nous-mêmes que nous. Nous ne pouvons pas permettre un écart de connaissance de soi.
L'IA qui voit tout
En 2019, l'investisseur milliardaire Peter Thiel a affirmé que l'IA était «littéralement communiste». Il a souligné que l'IA permet à un pouvoir centralisateur de surveiller les citoyens et d'en savoir plus sur eux qu'ils n'en savent sur eux-mêmes. La Chine, nota Thiel, a adopté l'IA avec enthousiasme.
Nous connaissons déjà le potentiel de l'IA pour soutenir le totalitarisme en fournissant un système orwellien de surveillance et de contrôle. Mais l'IA donne aussi aux totalitaires une arme philosophique. Tant que nous nous connaissons mieux que le gouvernement, le libéralisme pourrait tenir à distance les aspirants totalitaires.
Mais l'IA a changé la donne. Les grandes entreprises technologiques collectent de grandes quantités de données sur notre comportement. Les algorithmes d'apprentissage automatique utilisent ces données pour calculer non seulement ce que nous allons faire, mais qui nous sommes.
Aujourd'hui, L'IA peut prédire quels films nous aimerons, quelles nouvelles nous voudrons lire et avec qui nous voudrons devenir amis sur Facebook. Il peut prédire si les couples resteront ensemble et si nous voulons tentative de suicide. De nos likes Facebook, L'IA peut prédire nos opinions religieuses et politiques, notre personnalité, notre intelligence, notre consommation de drogue et notre bonheur.
La précision des prédictions de l'IA ne fera que s'améliorer. Dans un avenir pas trop lointain, comme l'écrivain Yuval Noah Harari a suggéré, AI peut nous dire qui nous sommes avant que nous le sachions nous-mêmes.
Ces développements ont des implications politiques sismiques. Si les gouvernements peuvent nous connaître mieux que nous, une nouvelle justification s'ouvre pour intervenir dans nos vies. Ils nous tyranniseront au nom de notre propre bien.
La liberté par la tyrannie
Le philosophe Isaiah Berlin l'avait prévu en 1958. Il identifié deux types de liberté. Un type, a-t-il averti, conduirait à la tyrannie.
La liberté négative est «la liberté de». C'est la liberté de l'ingérence d'autres personnes ou du gouvernement dans vos affaires. La liberté négative, c'est que personne d'autre ne peut vous retenir, tant que vous ne violez pas les droits d'autrui.
En revanche, la liberté positive est la «liberté de». C'est la liberté d'être maître de vous-même, la liberté de réaliser vos vrais désirs, la liberté de vivre une vie rationnelle. Qui ne voudrait pas ça?
Mais que se passe-t-il si quelqu'un d'autre dit que vous n'agissez pas dans votre «véritable intérêt», bien qu'il sache comment vous le pouvez. Si vous n'écoutez pas, ils peuvent te forcer à être libre - vous contraindre pour votre «propre bien». C'est l'une des idées les plus dangereuses jamais conçues. Il a tué des dizaines de millions de personnes en Union soviétique de Staline ainsi que La Chine de Mao.
Le dirigeant communiste russe, Lénine, aurait déclaré que les capitalistes lui vendraient la corde avec laquelle il les accrocherait. Peter Thiel a fait valoir que, dans l'IA, les entreprises technologiques capitalistes de la Silicon Valley ont vendu au communisme un outil qui menace de saper la société capitaliste démocratique. L'IA est la corde de Lénine.
Se battre pour soi
Nous ne pouvons empêcher une telle dystopie que si personne n'est autorisé à nous connaître mieux que nous nous connaissons. Nous ne devons jamais sentimentaliser quiconque cherche un tel pouvoir sur nous comme étant bien intentionné. Historiquement, cela n'a jamais abouti qu'à une calamité.
Une façon d'éviter une lacune dans la connaissance de soi est d'élever nos boucliers de confidentialité. Thiel, qui a qualifié l'IA de communiste, a fait valoir que «crypto est libertaire». Les crypto-monnaies peuvent être "permettant la confidentialité». La confidentialité réduit la capacité des autres à nous connaître et à utiliser ensuite ces connaissances pour nous manipuler pour leur propre profit.
Pourtant, mieux nous connaître grâce à l'IA offre de puissants avantages. Nous pourrons peut-être l'utiliser pour mieux comprendre ce qui nous rendra heureux, en bonne santé et riches. Ça peut aider guider nos choix de carrière. Plus généralement, l'IA promet de créer la croissance économique qui nous garde de la gorge l'un de l'autre.
Le problème n'est pas que l'IA améliore notre connaissance de soi. Le problème est un disparité de pouvoir dans ce que l'on sait de nous. La connaissance de nous exclusivement entre les mains de quelqu'un d'autre est un pouvoir sur nous. Mais la connaissance de nous entre nos propres mains est un pouvoir pour nous.
N'importe qui qui traite nos données créer des connaissances sur nous devrait être légalement obligé de nous rendre ces connaissances. Nous devons mettre à jour l'idée de "rien de nous sans nous”Pour l'ère de l'IA.
Ce que l'IA nous dit de nous-mêmes, c'est que nous devons envisager d'utiliser, pas que les autres profitent de l'abus. Il ne devrait jamais y avoir qu'une seule main sur la barre de notre âme. Et ça devrait être le nôtre.
A propos de l'auteur
Simon McCarthy-Jones, professeur agrégé en psychologie clinique et neuropsychologie, Trinity College de Dublin
Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.
Livres connexes:
De la tyrannie : vingt leçons du XXe siècle
de Timothy Snyder
Ce livre offre des leçons de l'histoire pour préserver et défendre la démocratie, y compris l'importance des institutions, le rôle des citoyens individuels et les dangers de l'autoritarisme.
Cliquez pour plus d'informations ou pour commander
Notre temps est venu: pouvoir, but et lutte pour une Amérique équitable
par Stacey Abrams
L'auteure, politicienne et militante, partage sa vision d'une démocratie plus inclusive et plus juste et propose des stratégies pratiques d'engagement politique et de mobilisation des électeurs.
Cliquez pour plus d'informations ou pour commander
Comment meurent les démocraties
de Steven Levitsky et Daniel Ziblatt
Ce livre examine les signes avant-coureurs et les causes de l'effondrement de la démocratie, en s'appuyant sur des études de cas du monde entier pour offrir un aperçu de la manière de sauvegarder la démocratie.
Cliquez pour plus d'informations ou pour commander
Le peuple, non : une brève histoire de l'antipopulisme
par Thomas Frank
L'auteur propose une histoire des mouvements populistes aux États-Unis et critique l'idéologie "anti-populiste" qui, selon lui, a étouffé la réforme et le progrès démocratiques.
Cliquez pour plus d'informations ou pour commander
La démocratie en un livre ou moins : comment ça marche, pourquoi ça ne marche pas et pourquoi y remédier est plus facile que vous ne le pensez
par David Litt
Ce livre offre un aperçu de la démocratie, y compris ses forces et ses faiblesses, et propose des réformes pour rendre le système plus réactif et responsable.
