Ahmet Misirligul / Shutterstock

Le court métrage Slaughterbots décrit un avenir proche dans lequel des essaims de micro drones assassinent des milliers de personnes pour leurs convictions politiques. Sortie en novembre 2017 Par des universitaires et des activistes mettant en garde contre les dangers de l'intelligence artificielle avancée, l'intelligence artificielle avancée (VIA) est rapidement devenue virale, attirant jusqu'à présent des vues 3m. Il a contribué à déclencher une débat public sur l'avenir des armes autonomes et faire pression sur les diplomates réunis à l'ONU Convention sur les armes classiques.

Mais ce genre de récits de science-fiction spéculatifs n'est pas seulement utile pour attirer l'attention. Les personnes qui conçoivent et construisent des technologies de pointe peuvent utiliser des histoires pour prendre en compte les conséquences de leur travail et s'assurer qu'il est utilisé pour de bon. Et nous pensons que ce type de «prototypage de science-fiction» ou de «fiction de conception» pourrait aider à empêcher les préjugés humains de se frayer un chemin vers les nouvelles technologies, renforçant ainsi les préjugés et les injustices de la société.

{vembed Y=9CO6M2HsoIA}

Un biais peut conduire à la préférence arbitraire de certaines catégories (de résultats, de personnes ou d'idées) par rapport à d'autres. Par exemple, certaines personnes peuvent être défavorables à l'embauche de femmes pour des postes de direction, qu'elles en soient conscientes ou pas.

Une technologie construite autour de données qui enregistre un tel biais peut aboutir reproduire le problème. Par exemple, un logiciel de recrutement conçu pour sélectionner les meilleurs CV pour un travail particulier peut être programmé pour rechercher des caractéristiques reflétant un préjugé inconscient envers les hommes. Dans ce cas, l'algorithme finira par favoriser les CV masculins. Et ce n'est pas théorique - ça réellement arrivé à Amazon.

Concevoir des algorithmes sans tenir compte des éventuelles implications négatives a été comparé aux médecins "écrivant sur les avantages d'un traitement donné et ignorant complètement les effets secondaires, quelle que soit leur gravité".

Certaines entreprises de technologie et certains chercheurs tentent de résoudre ce problème. Par exemple, Google a rédigé un ensemble de principes éthiques pour guider son développement de l'IA. Et les universitaires britanniques ont lancé une initiative appelée Inégal qui vise à encourager une plus grande équité et la justice dans la conception et l'utilisation de la technologie.

Le problème est que, publiquement, les entreprises ont tendance à ne fournir qu'une vision positive des conséquences potentielles des technologies à venir. Par exemple, les voitures sans conducteur sont souvent présentées comme une solution à tous nos problèmes de transport, du coût à la sécurité, sans tenir compte de la hausse des coûts. dangers des cyberattaques ou le fait qu'ils pourraient encourager les gens à marcher ou faire du vélo moins.

La difficulté à comprendre le fonctionnement des technologies numériques, en particulier celles qui reposent sur des algorithmes obscurs, complique également la tâche aux personnes qui ont une vision complexe et exhaustive des problèmes. Cette situation crée une tension entre une narration positive rassurante et le vague soupçon selon lequel les préjugés sont en quelque sorte ancrés dans les technologies qui nous entourent. C’est là que nous pensons que les récits de fiction de design peuvent entrer en scène.

Les histoires sont une méthode naturelle de réflexion sur les possibilités et les situations complexes, et nous les avons entendues toute notre vie. La science-fiction peut nous aider à spéculer sur l'impact des technologies du futur proche sur la société, à l'instar de Slaughterbots. Cela peut même inclure des questions de justice sociale, comme la façon dont certains groupes, tels que les réfugiés et les migrants, peuvent être exclu de innovations numériques.

Révéler l'avenir (possible)

Concevoir des histoires de fiction fournir aux concepteurs, aux ingénieurs et aux futuristes (entre autres) un moyen novateur de réfléchir à l’impact de la technologie d’un point de vue humain et de le lier aux besoins futurs. Avec un mélange de logique et d’imagination, le design fiction peut révéler des aspects de la manière dont la technologie peut être adoptée et utilisée, en entamant des discussions sur son utilisation. ramifications futures.

Par exemple, la nouvelle “Crime-sourcing”Explore ce qui pourrait arriver si Amnesty International utilisait des informations fournies par de nombreux partenaires et une base de données criminelles pour déterminer qui pourrait commettre un meurtre. Les chercheurs ont découvert que, du fait que la base de données était pleine de personnes appartenant à des groupes ethniques minoritaires qui, pour des raisons sociales, étaient statistiquement plus susceptibles de récidiver, le modèle «source de criminalité» était plus susceptible de: soupçonne à tort des minorités que les Blancs.

Vous n'avez pas besoin d'être un écrivain talentueux ou de faire un film lisse pour produire une fiction de design. Des activités de brainstorming impliquant des cartes et des story-boards ont été utilisées développer une conception de fiction et aider à développer le processus de narration. La généralisation des ateliers utilisant ce type d’outils permettrait à plus d’ingénieurs, d’entrepreneurs et de décideurs d’utiliser cette méthode d’évaluation. Et rendre le travail résultant accessible au public aiderait à déceler les biais potentiels dans les technologies avant qu'elles n'affectent la société.

Encourager les concepteurs à créer et à partager davantage d'histoires de cette manière garantirait que la narration qui sous-tend les nouvelles technologies ne présente pas seulement une image positive, ni une image extrêmement négative ou dystopique. Au lieu de cela, les gens pourront comprendre les deux aspects de ce qui se passe autour de nous.

À propos des auteurs

Alessio Malizia, Professeur de design d'expérience utilisateur, Université de Hertfordshire ainsi que Silvio Carta, Responsable des arts et du design et président du groupe de recherche sur le design, Université de Hertfordshire

Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.