Trouver la confiance et la compréhension dans les technologies autonomes

Trouver la confiance et la compréhension dans les technologies autonomesPhoto par: Norbert Aepli, Suisse (Utilisateur: Noebu)

Dans 2016, les voitures autonomes sont devenues monnaie courante. Les véhicules autonomes d'Uber est devenu omniprésent dans les quartiers où j'habite à Pittsburgh, et brièvement à San Francisco. Le ministère américain des Transports a publié nouvelles orientations réglementaires pour eux. Innombrable papiers et colonnes discuté comment les voitures auto-conduite devrait résoudre dilemmes éthiques Quand les choses vont mal. Et, malheureusement, 2016 a également vu le premier décès impliquant un véhicule autonome.

Les technologies autonomes s'étendent rapidement au-delà du secteur des transports soins de santé, cyberdefense avancée et même armes autonomes. Dans 2017, nous devrons décider si nous pouvons faire confiance à ces technologies. Cela va être beaucoup plus difficile que nous pourrions nous attendre.

La confiance est complexe et variée, mais aussi un élément clé de notre vie. Nous faisons souvent confiance à la technologie basé sur la prévisibilité: Je fais confiance à quelque chose si je sais ce qu'il va faire dans une situation particulière, même si je ne sais pas pourquoi. Par exemple, je fais confiance à mon ordinateur parce que je sais comment il va fonctionner, y compris quand il va tomber en panne. J'arrête de faire confiance si ça commence à se comporter différemment ou de manière surprenante.

En revanche, ma confiance en ma femme est basée sur comprendre ses croyances, ses valeurs et sa personnalité. Plus généralement, la confiance interpersonnelle n'implique pas de savoir exactement ce que l'autre va faire - ma femme me surprend certainement parfois! - mais plutôt pourquoi ils agissent comme ils le font. Et bien sûr, nous pouvons faire confiance à quelqu'un (ou quelque chose) dans les deux sens, si nous savons à la fois ce qu'ils vont faire et pourquoi.

J'ai exploré les bases possibles de notre confiance dans les voitures autonomes et d'autres technologies autonomes du point de vue éthique et psychologique. Ce sont des appareils, de sorte que la prévisibilité peut sembler être la clé. En raison de leur autonomie, cependant, nous devons considérer l'importance et la valeur - et le défi - d'apprendre à leur faire confiance de la manière dont nous faisons confiance aux autres êtres humains.

Autonomie et prévisibilité

Nous voulons que nos technologies, y compris les voitures autonomes, se comportent de manière prévisible et prévisible. Bien sûr, ces systèmes peuvent être très sensibles au contexte, notamment aux autres véhicules, aux piétons, aux conditions météorologiques, etc. En général, cependant, on peut s'attendre à ce qu'une voiture autonome qui est placée à plusieurs reprises dans le même environnement devrait probablement se comporter de la même manière à chaque fois. Mais dans quel sens ces voitures hautement prévisibles seraient-elles autonomes plutôt que simplement automatiques?

Il y a était de nombreuses différent tentatives à Vous permet de définir autonomie, mais ils ont tous ceci en commun: les systèmes autonomes peuvent prendre leurs propres décisions et plans (de fond) et ainsi agir différemment que prévu.


Obtenez les dernières nouvelles d'InnerSelf


En fait, l'une des raisons d'utiliser l'autonomie (par opposition à l'automatisation) est précisément que ces systèmes peuvent poursuivre des actions inattendues et surprenantes, bien que justifiables. Par exemple, AlphaGo de DeepMind a remporté le deuxième match de sa récente série Go contre Lee Sedol en partie à cause de un mouvement qu'aucun joueur humain ne ferait jamais, mais était néanmoins le bon mouvement. Mais ces mêmes surprises rendent difficile l'établissement d'une confiance fondée sur la prévisibilité. Une forte confiance basée uniquement sur la prévisibilité n'est discutable que pour les systèmes automatisés ou automatiques, précisément parce qu'ils sont prévisibles (en supposant que le système fonctionne normalement).

Embrasser les surprises

Bien sûr, d'autres personnes nous surprennent souvent, et pourtant nous pouvons leur faire confiance à un degré remarquable, en leur donnant même un pouvoir de vie et de mort sur nous-mêmes. Les soldats font confiance à leurs camarades dans des environnements complexes et hostiles; une patiente fait confiance à son chirurgien pour exciser une tumeur; et dans une veine plus mondaine, ma femme me fait confiance pour conduire prudemment. Cette confiance interpersonnelle nous permet d'embrasser les surprises, alors peut-être que nous pourrions développer quelque chose comme la confiance interpersonnelle dans les voitures autonomes?

En général, la confiance interpersonnelle exige de comprendre pourquoi quelqu'un a agi d'une manière particulière, même si vous ne pouvez pas prédire la décision exacte. Ma femme pourrait ne pas savoir exactement comment je vais conduire, mais elle connaît le genre de raisonnement que j'utilise lorsque je conduis. Et il est en fait relativement facile de comprendre pourquoi quelqu'un d'autre fait quelque chose, précisément parce que nous pensons tous et raisonnons de manière similaire, bien qu'avec des «ingrédients bruts» différents - nos croyances, nos désirs et nos expériences.

En fait, nous faisons continuellement et inconsciemment des inférences sur les croyances et les désirs des autres en fonction de leurs actions, en grande partie en supposant qu'ils pensent, raisonnent et décident à peu près comme nous le faisons. Toutes ces inférences et raisonnements basés sur notre cognition partagée (humaine) nous permettent de comprendre les raisons de quelqu'un d'autre et de construire ainsi une confiance interpersonnelle dans le temps.

Penser comme les gens?

Les technologies autonomes - les voitures autonomes, en particulier - ne pensent pas et ne décident pas comme les gens. Il y a eu des efforts, à la fois passé et récent, de développer des systèmes informatiques qui pensent et raisonnent comme les humains. Cependant, un des thèmes récurrents de l'apprentissage automatique au cours des deux dernières décennies a été les énormes gains réalisés précisément en ne demandant pas à nos systèmes d'intelligence artificielle de fonctionner de manière humaine. Au lieu de cela, les algorithmes d'apprentissage automatique et les systèmes tels que AlphaGo ont souvent été en mesure de surperformer les experts humains en se concentrant sur des problèmes spécifiques et localisés, puis en les résolvant différemment des humains.

En conséquence, les tentatives d'interprétation d'une technologie autonome en termes de croyances et de désirs humains peuvent aller spectaculairement de travers. Quand un pilote humain voit une balle sur la route, la plupart d'entre nous ralentissent automatiquement de manière significative, pour éviter de frapper un enfant qui pourrait le poursuivre. Si nous roulons dans une voiture autonome et que nous voyons un ballon rouler dans la rue, nous nous attendons à ce que la voiture le reconnaisse et soit prête à s'arrêter pour courir les enfants. La voiture pourrait cependant ne voir qu'un obstacle à éviter. Si elle bouge sans ralentir, les humains à bord pourraient être alarmés - et un enfant pourrait être en danger.

Nos inférences sur les «croyances» et les «désirs» d'une auto-conduite seront presque sûrement erronées d'une manière importante, précisément parce que la voiture n'a aucune croyance ou désir humain. Nous ne pouvons pas développer la confiance interpersonnelle dans une voiture autonome en la regardant simplement, car nous ne déduirons pas correctement le pourquoi de ses actions.

Bien sûr, les clients de la société ou du marché pourraient insister en masse sur le fait que les voitures autonomes ont des caractéristiques (psychologiques) humaines, précisément pour que nous puissions comprendre et développer la confiance interpersonnelle en elles. Cette stratégie donnerait un tout nouveau sens à "conception centrée sur l'homme, "Puisque les systèmes seraient conçus spécifiquement pour que leurs actions soient interprétables par les humains. Mais il faudrait aussi inclure de nouvelles algorithmes et techniques dans la voiture auto-conduite, tout cela représenterait un changement massif par rapport aux stratégies actuelles de recherche et de développement pour les voitures autonomes et autres technologies autonomes.

Les voitures autonomes ont le potentiel de remodeler radicalement notre infrastructure de transport de nombreuses façons bénéfiques, mais seulement si nous pouvons leur faire assez confiance pour les utiliser. Et ironiquement, la caractéristique même qui rend les voitures autonomes autonomes - leur prise de décision flexible et autonome dans diverses situations - est exactement ce qui fait qu'il est difficile de leur faire confiance.

La Conversation

authirhere

David Danks, professeur de philosophie et de psychologie, Carnegie Mellon University

Cet article a été publié initialement le La Conversation. Lis le article original.

Livres connexes:

{amazonWS: searchindex = Livres; mots-clés = voitures autonomes; maxresults = 3}