Trouver la confiance et la compréhension dans les technologies autonomes

Trouver la confiance et la compréhension dans les technologies autonomesPhoto par: Norbert Aepli, Suisse (Utilisateur: Noebu)

Dans 2016, les voitures autonomes sont devenues monnaie courante. Les véhicules autonomes d'Uber est devenu omniprésent dans les quartiers où j'habite à Pittsburgh, et brièvement à San Francisco. Le ministère américain des Transports a publié nouvelles orientations réglementaires pour eux. Innombrable papiers et colonnes discuté comment les voitures auto-conduite devrait résoudre dilemmes éthiques Quand les choses vont mal. Et, malheureusement, 2016 a également vu le premier décès impliquant un véhicule autonome.

Les technologies autonomes s'étendent rapidement au-delà du secteur des transports soins de santé, cyberdefense avancée et même armes autonomes. Dans 2017, nous devrons décider si nous pouvons faire confiance à ces technologies. Cela va être beaucoup plus difficile que nous pourrions nous attendre.

La confiance est complexe et variée, mais aussi un élément clé de notre vie. Nous faisons souvent confiance à la technologie basé sur la prévisibilité: Je fais confiance à quelque chose si je sais ce qu'il va faire dans une situation particulière, même si je ne sais pas pourquoi. Par exemple, je fais confiance à mon ordinateur parce que je sais comment il va fonctionner, y compris quand il va tomber en panne. J'arrête de faire confiance si ça commence à se comporter différemment ou de manière surprenante.

En revanche, ma confiance en ma femme est basée sur comprendre ses croyances, ses valeurs et sa personnalité. Plus généralement, la confiance interpersonnelle n'implique pas de savoir exactement ce que l'autre va faire - ma femme me surprend certainement parfois! - mais plutôt pourquoi ils agissent comme ils le font. Et bien sûr, nous pouvons faire confiance à quelqu'un (ou quelque chose) dans les deux sens, si nous savons à la fois ce qu'ils vont faire et pourquoi.

J'ai exploré les bases possibles de notre confiance dans les voitures autonomes et d'autres technologies autonomes du point de vue éthique et psychologique. Ce sont des appareils, de sorte que la prévisibilité peut sembler être la clé. En raison de leur autonomie, cependant, nous devons considérer l'importance et la valeur - et le défi - d'apprendre à leur faire confiance de la manière dont nous faisons confiance aux autres êtres humains.

Autonomie et prévisibilité

Nous voulons que nos technologies, y compris les voitures autonomes, se comportent de manière prévisible et prévisible. Bien sûr, ces systèmes peuvent être très sensibles au contexte, notamment aux autres véhicules, aux piétons, aux conditions météorologiques, etc. En général, cependant, on peut s'attendre à ce qu'une voiture autonome qui est placée à plusieurs reprises dans le même environnement devrait probablement se comporter de la même manière à chaque fois. Mais dans quel sens ces voitures hautement prévisibles seraient-elles autonomes plutôt que simplement automatiques?

Il y a était de nombreuses différent tentatives à Vous permet de définir autonomie, mais ils ont tous ceci en commun: les systèmes autonomes peuvent prendre leurs propres décisions et plans (de fond) et ainsi agir différemment que prévu.


Obtenez les dernières nouvelles d'InnerSelf


En fait, l'une des raisons d'utiliser l'autonomie (par opposition à l'automatisation) est précisément que ces systèmes peuvent poursuivre des actions inattendues et surprenantes, bien que justifiables. Par exemple, AlphaGo de DeepMind a remporté le deuxième match de sa récente série Go contre Lee Sedol en partie à cause de un mouvement qu'aucun joueur humain ne ferait jamais, mais était néanmoins le bon mouvement. Mais ces mêmes surprises rendent difficile l'établissement d'une confiance fondée sur la prévisibilité. Une forte confiance basée uniquement sur la prévisibilité n'est discutable que pour les systèmes automatisés ou automatiques, précisément parce qu'ils sont prévisibles (en supposant que le système fonctionne normalement).

Embrasser les surprises

Bien sûr, d'autres personnes nous surprennent souvent, et pourtant nous pouvons leur faire confiance à un degré remarquable, en leur donnant même un pouvoir de vie et de mort sur nous-mêmes. Les soldats font confiance à leurs camarades dans des environnements complexes et hostiles; une patiente fait confiance à son chirurgien pour exciser une tumeur; et dans une veine plus mondaine, ma femme me fait confiance pour conduire prudemment. Cette confiance interpersonnelle nous permet d'embrasser les surprises, alors peut-être que nous pourrions développer quelque chose comme la confiance interpersonnelle dans les voitures autonomes?

En général, la confiance interpersonnelle exige de comprendre pourquoi quelqu'un a agi d'une manière particulière, même si vous ne pouvez pas prédire la décision exacte. Ma femme pourrait ne pas savoir exactement comment je vais conduire, mais elle connaît le genre de raisonnement que j'utilise lorsque je conduis. Et il est en fait relativement facile de comprendre pourquoi quelqu'un d'autre fait quelque chose, précisément parce que nous pensons tous et raisonnons de manière similaire, bien qu'avec des «ingrédients bruts» différents - nos croyances, nos désirs et nos expériences.

En fait, nous faisons continuellement et inconsciemment des inférences sur les croyances et les désirs des autres en fonction de leurs actions, en grande partie en supposant qu'ils pensent, raisonnent et décident à peu près comme nous le faisons. Toutes ces inférences et raisonnements basés sur notre cognition partagée (humaine) nous permettent de comprendre les raisons de quelqu'un d'autre et de construire ainsi une confiance interpersonnelle dans le temps.

Penser comme les gens?

Les technologies autonomes - les voitures autonomes, en particulier - ne pensent pas et ne décident pas comme les gens. Il y a eu des efforts, à la fois passé et récent, de développer des systèmes informatiques qui pensent et raisonnent comme les humains. Cependant, un des thèmes récurrents de l'apprentissage automatique au cours des deux dernières décennies a été les énormes gains réalisés précisément en ne demandant pas à nos systèmes d'intelligence artificielle de fonctionner de manière humaine. Au lieu de cela, les algorithmes d'apprentissage automatique et les systèmes tels que AlphaGo ont souvent été en mesure de surperformer les experts humains en se concentrant sur des problèmes spécifiques et localisés, puis en les résolvant différemment des humains.

En conséquence, les tentatives d'interprétation d'une technologie autonome en termes de croyances et de désirs humains peuvent aller spectaculairement de travers. Quand un pilote humain voit une balle sur la route, la plupart d'entre nous ralentissent automatiquement de manière significative, pour éviter de frapper un enfant qui pourrait le poursuivre. Si nous roulons dans une voiture autonome et que nous voyons un ballon rouler dans la rue, nous nous attendons à ce que la voiture le reconnaisse et soit prête à s'arrêter pour courir les enfants. La voiture pourrait cependant ne voir qu'un obstacle à éviter. Si elle bouge sans ralentir, les humains à bord pourraient être alarmés - et un enfant pourrait être en danger.

Nos inférences sur les «croyances» et les «désirs» d'une auto-conduite seront presque sûrement erronées d'une manière importante, précisément parce que la voiture n'a aucune croyance ou désir humain. Nous ne pouvons pas développer la confiance interpersonnelle dans une voiture autonome en la regardant simplement, car nous ne déduirons pas correctement le pourquoi de ses actions.

Bien sûr, les clients de la société ou du marché pourraient insister en masse sur le fait que les voitures autonomes ont des caractéristiques (psychologiques) humaines, précisément pour que nous puissions comprendre et développer la confiance interpersonnelle en elles. Cette stratégie donnerait un tout nouveau sens à "conception centrée sur l'homme, "Puisque les systèmes seraient conçus spécifiquement pour que leurs actions soient interprétables par les humains. Mais il faudrait aussi inclure de nouvelles algorithmes et techniques dans la voiture auto-conduite, tout cela représenterait un changement massif par rapport aux stratégies actuelles de recherche et de développement pour les voitures autonomes et autres technologies autonomes.

Les voitures autonomes ont le potentiel de remodeler radicalement notre infrastructure de transport de nombreuses façons bénéfiques, mais seulement si nous pouvons leur faire assez confiance pour les utiliser. Et ironiquement, la caractéristique même qui rend les voitures autonomes autonomes - leur prise de décision flexible et autonome dans diverses situations - est exactement ce qui fait qu'il est difficile de leur faire confiance.

La Conversation

authirhere

David Danks, professeur de philosophie et de psychologie, Carnegie Mellon University

Cet article a été publié initialement le La Conversation. Lis le article original.

Livres connexes:

{amazonWS: searchindex = Livres; mots-clés = voitures autonomes; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

suivez InnerSelf sur

facebook-icontwitter-iconrss-icon

Recevez le dernier par courriel

{Emailcloak = off}

DES ÉDITEURS

InnerSelf Newsletter: Septembre 6, 2020
by Personnel InnerSelf
Nous voyons la vie à travers les lentilles de notre perception. Stephen R. Covey a écrit: «Nous voyons le monde, non pas tel qu’il est, mais tel que nous sommes - ou tel que nous sommes conditionnés à le voir.» Alors cette semaine, nous jetons un coup d'œil à certains…
Bulletin d’InnerSelf: Août 30, 2020
by Personnel InnerSelf
Les routes que nous parcourons ces jours-ci sont aussi vieilles que le temps, mais sont nouvelles pour nous. Les expériences que nous vivons sont aussi anciennes que le temps, mais elles sont aussi nouvelles pour nous. Il en va de même pour le…
Quand la vérité est si terrible que ça fait mal, agissez
by Marie T. Russell, InnerSelf.com
Au milieu de toutes les horreurs qui se déroulent ces jours-ci, je suis inspiré par les rayons d'espoir qui brillent à travers. Des gens ordinaires qui défendent ce qui est juste (et contre ce qui ne va pas). Joueurs de baseball,…
Quand ton dos est contre le mur
by Marie T. Russell, InnerSelf
J'adore l'Internet. Maintenant, je sais que beaucoup de gens ont beaucoup de mauvaises choses à dire à ce sujet, mais j'adore ça. Tout comme j'aime les gens de ma vie - ils ne sont pas parfaits, mais je les aime quand même.
Bulletin d’InnerSelf: Août 23, 2020
by Personnel InnerSelf
Tout le monde peut probablement convenir que nous vivons des temps étranges ... de nouvelles expériences, de nouvelles attitudes, de nouveaux défis. Mais nous pouvons être encouragés à nous souvenir que tout est toujours en mouvement,…