Comment l'intelligence artificielle est le rêve d'un totalitaire

Comment l'intelligence artificielle est le rêve d'un totalitaire shutterstock.

Les sociétés occidentales individualistes sont fondées sur l'idée que personne ne connaît nos pensées, nos désirs ou nos joies mieux que nous. Et nous nous sommes donc mis nous-mêmes, plutôt que le gouvernement, en charge de nos vies. Nous avons tendance à être d'accord avec le philosophe Réclamation d'Emmanuel Kant que personne n'a le droit de nous imposer l'idée de la bonne vie.

L'intelligence artificielle (IA) va changer cela. Il nous connaîtra mieux que nous nous connaissons nous-mêmes. Un gouvernement armé d'IA pourrait prétendre savoir ce que son peuple veut vraiment et ce qui le rendra vraiment heureux. Au mieux, il s'en servira pour justifier le paternalisme, au pire, le totalitarisme.

Chaque enfer commence par une promesse du paradis. Le totalitarisme dirigé par l'IA ne sera pas différent. La liberté deviendra obéissance à l'État. Seuls les irrationnels, méchants ou subversifs peuvent souhaiter choisir leur propre voie.

Pour éviter une telle dystopie, nous ne devons pas permettre aux autres d'en savoir plus sur nous-mêmes que nous. Nous ne pouvons pas permettre un écart de connaissance de soi.

L'IA qui voit tout

En 2019, l'investisseur milliardaire Peter Thiel a affirmé que l'IA était «littéralement communiste». Il a souligné que l'IA permet à un pouvoir centralisateur de surveiller les citoyens et d'en savoir plus sur eux qu'ils n'en savent sur eux-mêmes. La Chine, nota Thiel, a adopté l'IA avec enthousiasme.

Nous connaissons déjà le potentiel de l'IA pour soutenir le totalitarisme en fournissant un système orwellien de surveillance et de contrôle. Mais l'IA donne aussi aux totalitaires une arme philosophique. Tant que nous nous connaissons mieux que le gouvernement, le libéralisme pourrait tenir à distance les aspirants totalitaires.

Mais l'IA a changé la donne. Les grandes entreprises technologiques collectent de grandes quantités de données sur notre comportement. Les algorithmes d'apprentissage automatique utilisent ces données pour calculer non seulement ce que nous allons faire, mais qui nous sommes.


Obtenez les dernières nouvelles d'InnerSelf


Aujourd'hui, L'IA peut prédire quels films nous aimerons, quelles nouvelles nous voudrons lire et avec qui nous voudrons devenir amis sur Facebook. Il peut prédire si les couples resteront ensemble et si nous voulons tentative de suicide. De nos likes Facebook, L'IA peut prédire nos opinions religieuses et politiques, notre personnalité, notre intelligence, notre consommation de drogue et notre bonheur.

La précision des prédictions de l'IA ne fera que s'améliorer. Dans un avenir pas trop lointain, comme l'écrivain Yuval Noah Harari a suggéré, AI peut nous dire qui nous sommes avant que nous le sachions nous-mêmes.

Ces développements ont des implications politiques sismiques. Si les gouvernements peuvent nous connaître mieux que nous, une nouvelle justification s'ouvre pour intervenir dans nos vies. Ils nous tyranniseront au nom de notre propre bien.

La liberté par la tyrannie

Le philosophe Isaiah Berlin l'avait prévu en 1958. Il identifié deux types de liberté. Un type, a-t-il averti, conduirait à la tyrannie.

La liberté négative est «la liberté de». C'est la liberté de l'ingérence d'autres personnes ou du gouvernement dans vos affaires. La liberté négative, c'est que personne d'autre ne peut vous retenir, tant que vous ne violez pas les droits d'autrui.

En revanche, la liberté positive est la «liberté de». C'est la liberté d'être maître de vous-même, la liberté de réaliser vos vrais désirs, la liberté de vivre une vie rationnelle. Qui ne voudrait pas ça?

Mais que se passe-t-il si quelqu'un d'autre dit que vous n'agissez pas dans votre «véritable intérêt», bien qu'il sache comment vous le pouvez. Si vous n'écoutez pas, ils peuvent te forcer à être libre - vous contraindre pour votre «propre bien». C'est l'une des idées les plus dangereuses jamais conçues. Il a tué des dizaines de millions de personnes en Union soviétique de Staline et La Chine de Mao.

Le dirigeant communiste russe, Lénine, aurait déclaré que les capitalistes lui vendraient la corde avec laquelle il les accrocherait. Peter Thiel a fait valoir que, dans l'IA, les entreprises technologiques capitalistes de la Silicon Valley ont vendu au communisme un outil qui menace de saper la société capitaliste démocratique. L'IA est la corde de Lénine.

Se battre pour soi

Nous ne pouvons empêcher une telle dystopie que si personne n'est autorisé à nous connaître mieux que nous nous connaissons. Nous ne devons jamais sentimentaliser quiconque cherche un tel pouvoir sur nous comme étant bien intentionné. Historiquement, cela n'a jamais abouti qu'à une calamité.

Une façon d'éviter une lacune dans la connaissance de soi est d'élever nos boucliers de confidentialité. Thiel, qui a qualifié l'IA de communiste, a fait valoir que «crypto est libertaire». Les crypto-monnaies peuvent être "permettant la confidentialité». La confidentialité réduit la capacité des autres à nous connaître et à utiliser ensuite ces connaissances pour nous manipuler pour leur propre profit.

Pourtant, mieux nous connaître grâce à l'IA offre de puissants avantages. Nous pourrons peut-être l'utiliser pour mieux comprendre ce qui nous rendra heureux, en bonne santé et riches. Ça peut aider guider nos choix de carrière. Plus généralement, l'IA promet de créer la croissance économique NOS nous garde de la gorge l'un de l'autre.

Le problème n'est pas que l'IA améliore notre connaissance de soi. Le problème est un disparité de pouvoir dans ce que l'on sait de nous. La connaissance de nous exclusivement entre les mains de quelqu'un d'autre est un pouvoir sur nous. Mais la connaissance de nous entre nos propres mains est un pouvoir pour nous.

N'importe qui qui traite nos données créer des connaissances sur nous devrait être légalement obligé de nous rendre ces connaissances. Nous devons mettre à jour l'idée de "rien de nous sans nous”Pour l'ère de l'IA.

Ce que l'IA nous dit de nous-mêmes, c'est que nous devons envisager d'utiliser, pas que les autres profitent de l'abus. Il ne devrait jamais y avoir qu'une seule main sur la barre de notre âme. Et ça devrait être le nôtre.La Conversation

A propos de l'auteur

Simon McCarthy-Jones, professeur agrégé en psychologie clinique et neuropsychologie, Trinity College de Dublin

Cet article est republié de La Conversation sous une licence Creative Commons. Lis le article original.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

suivez InnerSelf sur

facebook-icontwitter-iconrss-icon

Recevez le dernier par courriel

{Emailcloak = off}

DES ÉDITEURS

InnerSelf Newsletter: Septembre 20, 2020
by Personnel InnerSelf
Le thème de la newsletter de cette semaine peut se résumer comme suit: «vous pouvez le faire» ou plus précisément «nous pouvons le faire!». C'est une autre façon de dire "vous / nous avons le pouvoir de faire un changement". L'image de…
Ce qui fonctionne pour moi: "Je peux le faire!"
by Marie T. Russell, InnerSelf
La raison pour laquelle je partage «ce qui fonctionne pour moi» est que cela peut également fonctionner pour vous. Si ce n'est pas exactement la façon dont je le fais, puisque nous sommes tous uniques, une certaine variation de l'attitude ou de la méthode pourrait très bien être quelque chose ...
InnerSelf Newsletter: Septembre 6, 2020
by Personnel InnerSelf
Nous voyons la vie à travers les lentilles de notre perception. Stephen R. Covey a écrit: «Nous voyons le monde, non pas tel qu’il est, mais tel que nous sommes - ou tel que nous sommes conditionnés à le voir.» Alors cette semaine, nous jetons un coup d'œil à certains…
Bulletin d’InnerSelf: Août 30, 2020
by Personnel InnerSelf
Les routes que nous parcourons ces jours-ci sont aussi vieilles que le temps, mais sont nouvelles pour nous. Les expériences que nous vivons sont aussi anciennes que le temps, mais elles sont aussi nouvelles pour nous. Il en va de même pour le…
Quand la vérité est si terrible que ça fait mal, agissez
by Marie T. Russell, InnerSelf.com
Au milieu de toutes les horreurs qui se déroulent ces jours-ci, je suis inspiré par les rayons d'espoir qui brillent à travers. Des gens ordinaires qui défendent ce qui est juste (et contre ce qui ne va pas). Joueurs de baseball,…