William Perugini/Shutterstock

Parmi les nombreux "des risques profonds pour la société et l’humanité» qui inquiètent les experts en technologie à propos de l’intelligence artificielle (IA), la diffusion de fausses images est une chose que les internautes de tous les jours connaissent bien.

Les deepfakes – des vidéos ou des photographies dans lesquelles le visage ou le corps d'une personne a été modifié numériquement pour donner l'impression qu'elle fait quelque chose qu'elle ne fait pas – ont déjà été utilisés pour se propager. désinformation politique ainsi que fausse pornographie.

Ces images sont généralement malveillantes et sont utilisées pour discréditer le sujet. En ce qui concerne la pornographie deepfake, le la grande majorité des victimes sont des femmes. L'IA générative – technologie utilisée pour créer du texte, des images et des vidéos – est déjà en train de faire les abus sexuels basés sur l’image sont plus faciles à perpétrer.

Une nouvelle ensemble de lois au Royaume-Uni, criminalisera le partage de pornographie deepfake. Mais avec l’attention portée à l’IA et aux deepfakes, nous ne pouvons pas oublier à quel point une technologie moins sophistiquée peut être utilisée comme outil d’abus, avec des conséquences dévastatrices pour les victimes.

Technologie et contrôle

Lorsque j’ai commencé mes recherches sur la technologie dans les relations abusives, les deepfakes n’étaient qu’un point à l’horizon. Mon travail s'est concentré sur le rôle des smartphones dans la maltraitance des femmes qui avaient fui des relations de contrôle. J'ai découvert que les auteurs de violences conjugales utilisaient la technologie pour étendre leur pouvoir et leur contrôle sur leurs partenaires, une approche moderne des tactiques de violence utilisées. bien avant les smartphones étaient dans toutes les poches.

Les téléphones portables peuvent être utilisés directement pour surveiller et contrôler, en utilisant le suivi GPS ou en bombardant une victime de SMS, de vidéos et d'appels vocaux. Un participant à mon recherche en 2019 a expliqué comment son partenaire violent utilisait son téléphone pour accéder aux réseaux sociaux, lui envoyant des photos offensantes via Instagram et des messages WhatsApp persistants et offensants.

Lorsqu'elle sortait avec ses amis, il lui envoyait d'abord des SMS, des appels, puis des appels vidéo en permanence pour vérifier où elle se trouvait et voir avec qui elle était. Lorsque la participante a éteint son téléphone, son partenaire d'alors a contacté ses amis, les bombardant de SMS et d'appels.

Cette participante se sentait trop gênée pour prendre des dispositions pour rencontrer son groupe de pairs et a donc arrêté de sortir. D'autres personnes se trouvant dans des situations similaires pourraient être exclues des plans sociaux si leurs amis veulent éviter d'être contactés par l'agresseur de leur ami. Un tel isolement social est un élément fréquent de la violence domestique et un indicateur important des relations de contrôle.

Selon l'association caritative Refuge contre la violence domestique, plus de 72% des personnes qui utilisent ses services signalent des abus liés à la technologie.

Les téléphones mobiles sont une passerelle vers d’autres gadgets, via « l’Internet des objets » – des appareils connectés au Web et capables d’échanger des données. Ces outils peuvent également être utilisés comme armes par les agresseurs. Par exemple, utiliser les téléphones portables pour modifier les paramètres de température sur un thermostat domestique, créant des extrêmes d'une heure à l'autre.

Déroutés par cela, les gens demandent des explications à leur partenaire pour se faire répondre que cela doit être le fruit de leur imagination. Techniques d'éclairage au gaz comme celui-ci amène les victimes à remettre en question leur propre santé mentale, ce qui mine leur confiance dans leur propre jugement.

Un panoptique moderne

D’un simple clic, les téléphones mobiles permettent une surveillance sans précédent des autres. Dans la poche d’un agresseur, ils peuvent être utilisés pour garder un œil sur ses partenaires actuels et anciens à tout moment, en tout lieu et – si le signal le permet – n’importe où. Cela donne aux auteurs un pouvoir de toute-puissance, laissant les victimes croire qu'elles sont surveillées même lorsqu'elles ne le sont pas.

Cela rappelle les travaux du philosophe du XVIIIe siècle Jeremy Bentham, qui a introduit le concept de « panoptique ». Bentham a proposé un système carcéral « parfait », dans lequel une tour de garde se trouve au centre, entourée de cellules individuelles.

Isolés les uns des autres, les prisonniers ne verraient que la tour – un rappel constant qu'ils sont surveillés en permanence, même s'ils ne voient pas le gardien à l'intérieur. Bentham pensait qu'une telle structure entraînerait l'auto-surveillance des prisonniers jusqu'à ce qu'aucun verrou ni barreau ne soit finalement nécessaire.

Mes recherches les plus récentes montre que les téléphones portables ont créé une dynamique similaire au sein des relations abusives. Les téléphones jouent le rôle de tour et les criminels sont les gardes qui s'y trouvent.

Dans ce panoptique moderne, les victimes peuvent être en déplacement, visibles des étrangers, des amis et de la famille. Pourtant, en raison de la présence du téléphone, ils se sentent toujours surveillés et contrôlés par leur partenaire violent.

Comme l'a dit un participant : « Vous avez l'impression qu'il n'y a pas de liberté, même lorsque vous êtes absent. Vous avez l'impression d'être enfermé quelque part, vous n'avez pas de liberté, quelqu'un vous contrôle.

Les survivants des abus continuent de se surveiller même lorsque les agresseurs ne sont pas là. Ils agissent d'une manière qui, selon eux, plaira (ou du moins ne mettra pas en colère) leurs agresseurs.

Ce comportement est souvent considéré par les autres comme étrange et trop facilement considéré comme de la paranoïa, de l’anxiété ou des problèmes de santé mentale plus graves. L'accent est mis sur le comportement de la victime et ignore la cause – un comportement abusif ou criminel de la part de son partenaire.

À mesure que la technologie devient plus sophistiquée, les outils et les stratégies dont disposent les agresseurs continueront d’évoluer. Cela étendra la portée des auteurs et présentera de nouvelles opportunités de surveillance, de détournement de fonds et d'abus.

Tant que les entreprises technologiques ne prendront pas en compte les expériences des survivantes de violence domestique et n'intégreront pas de mécanismes de sécurité dans la conception de leurs produits, la maltraitance continuera à persister. caché à la vue.

Tirion Havard, professeur agrégé de travail social, London South Bank University

Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.