Comment les systèmes d'intelligence artificielle pourraient menacer la démocratie

intimité

Géant américain de la technologie Microsoft s'est associé à une université militaire chinoise développer systèmes d'intelligence artificielle cela pourrait potentiellement améliorer les capacités de surveillance et de censure du gouvernement. Deux Sénateurs américains condamnés publiquement le partenariat, mais ce que le Université de technologie de défense nationale de Chine veut de Microsoft n'est pas la seule préoccupation.

As mes recherches montrent, l'avènement de la répression numérique affecte profondément la relation entre citoyen et état. Les nouvelles technologies dotent les gouvernements de capacités sans précédent pour surveiller, suivre et surveiller des personnes. Même les gouvernements des démocraties ayant de fortes traditions de primauté du droit se sentir tenté d'abuser ces nouvelles capacités.

Dans les états avec institutions inexplicables et violations fréquentes des droits de l'homme, Les systèmes d’IA provoqueront probablement des dégâts plus importants. La Chine est un exemple remarquable. Son leadership a adopté avec enthousiasme les technologies de l'IA et a mis en place le monde le plus sophistiqué état de surveillance in Province du Xinjiang, suivi des déplacements quotidiens des citoyens et de l'utilisation des smartphones.

Son exploitation de ces technologies présente un modèle effrayant pour les autres autocrates et constitue une menace directe pour les sociétés démocratiques ouvertes. Bien qu'il n'y ait aucune preuve que d'autres gouvernements aient reproduit ce niveau de surveillance de l'IA, les entreprises chinoises exportent activement les mêmes technologies sous-jacentes à travers le monde.

Recours accru aux outils d'IA aux États-Unis

Systèmes d'intelligence artificielle sont partout dans le monde moderne, aidant à gérer les smartphones, les moteurs de recherche Internet, les assistants vocaux numériques et les files d’attente de films Netflix. Beaucoup de gens ne réalisent pas la rapidité avec laquelle l'IA se développe, grâce à la quantité toujours croissante de données à analyser, à l'amélioration des algorithmes et aux puces informatiques avancées.

Chaque fois que plus d'informations deviennent disponibles et que l'analyse devient plus facile, les gouvernements sont intéressés - et pas seulement les autorités autoritaires. Aux États-Unis, par exemple, les 1970 ont été informés que des agences gouvernementales - telles que le FBI, la CIA et la NSA - avaient créé réseaux domestiques de surveillance expansifs surveiller et harceler les manifestants des droits civils, les militants politiques et les groupes amérindiens. Ces problèmes n'ont pas disparu: la technologie numérique a renforcé la capacité d'un nombre encore plus grand d'agences à effectuer une surveillance encore plus intrusive.

intimité Dans quelle mesure les algorithmes prédisent-ils où la police devrait être la plus ciblée? Arnout de Vries

Par exemple, la police américaine a adopté avec enthousiasme les technologies de l'IA. Ils ont commencé à utiliser un logiciel qui est destiné à prédire où les crimes se produiront décider où envoyer des officiers en patrouille. Ils utilisent aussi la reconnaissance faciale et Analyse d'ADN dans les enquêtes criminelles. Mais les analyses de ces systèmes montrent la données sur lesquelles ces systèmes sont formés sont souvent biaisés, conduisant à résultats injustes, Tels que déterminant faussement que les Afro-Américains sont plus susceptibles de commettre des crimes que d'autres groupes.

Surveillance de l'IA dans le monde

Dans les pays autoritaires, les systèmes d’IA peuvent directement encourager le contrôle et la surveillance au niveau national, en aidant les forces de sécurité internes traitent des quantités massives d'informations - notamment les publications sur les réseaux sociaux, les SMS, les e-mails et les appels téléphoniques - plus rapidement et plus efficacement. La police peut identifier les tendances sociales et des personnes spécifiques qui pourraient menacer le régime sur la base des informations découvertes par ces systèmes.

Par exemple, le gouvernement chinois a eu recours à l'IA lors de mesures de répression à grande échelle dans des régions abritant des minorités ethniques en Chine. Les systèmes de surveillance au Xinjiang et au Tibet ont été décrits comme «Orwellian. ”Ces efforts ont inclus échantillons d'ADN obligatoires, Surveillance du réseau Wi-Fi et caméras de reconnaissance faciale répandues, toutes connectées à des plates-formes intégrées d’analyse de données. Grâce à ces systèmes, les autorités chinoises ont, selon le département d'État américain, "détenu arbitrairement" entre 1 et 2 millions de personnes.

My la recherche se penche sur les pays 90 du monde entier avec des types de gouvernement allant de démocraties autoritaires fermées à des démocraties imparfaites, y compris la Thaïlande, la Turquie, le Bangladesh et le Kenya. J'ai trouvé que les entreprises chinoises sont exportation de la technologie de surveillance de l'IA au moins 54 de ces pays. Cette technologie est souvent intégrée dans le produit phare de la Chine. Ceinture et Initiative Route, qui finance un vaste réseau de routes, de chemins de fer, de pipelines d’énergie et de réseaux de télécommunications desservant 60% de la population mondiale et les économies générant 40% du PIB mondial.

Par exemple, des entreprises chinoises comme Huawei et ZTE construisent des «villes intelligentes» dans Pakistan, Les Philippines et Kenya, avec une technologie de surveillance intégrée étendue. Par exemple, Huawei a équipé Bonifacio Global City aux Philippines avec des caméras haute définition connectées à Internet qui fournissent «Surveillance de sécurité intelligente 24 / 7 avec l'analyse des données pour détecter la criminalité et aider à gérer le trafic. "

intimité Aux Philippines, Bonifacio Global City dispose de nombreux équipements de surveillance intégrés. alveo land / Wikimedia Commons

Hikvision, Yitu et SenseTime fournissent des caméras de reconnaissance faciale de pointe à utiliser dans des endroits tels que Singapour - qui a annoncé la mise en place d'un programme de surveillance avec Caméras 110,000 montées sur des lampadaires autour de la cité. Le Zimbabwe crée un banque d'images nationale qui peut être utilisé pour la reconnaissance faciale.

Cependant, vendre du matériel de pointe à des fins lucratives est différent du partage de la technologie avec un objectif géopolitique exprès. Ces nouvelles capacités pourraient jeter les bases d'une surveillance mondiale: à mesure que les gouvernements seront de plus en plus dépendants de la technologie chinoise pour gérer leurs populations et conserver leur pouvoir, ils devront faire face à une pression accrue pour s'aligner sur le programme de la Chine. Mais pour le moment, il semble que le principal objectif de la Chine soit de dominer le marché des nouvelles technologies et de gagner beaucoup d'argent.

IA et désinformation

En plus de fournir des capacités de surveillance à la fois générales et détaillées, l'IA peut aider les gouvernements répressifs à manipuler les informations disponibles et à répandre la désinformation. Ces campagnes peuvent être automatisées ou assistées par automatisation et déployées. messages hyper-personnalisés dirigé contre - ou contre - des personnes spécifiques ou des groupes.

L’IA sous-tend également la technologie communément appelée «deepfake, "Dans lequel des algorithmes créent faux réalistes vidéo et audio. Il peut être utile de brouiller les pistes entre la vérité et la fiction lors d'élections serrées, lorsqu'un candidat pourrait créer de fausses vidéos montrant un adversaire faisant et racontant des choses qui ne se sont jamais passées.

Une première vidéo de deepfake montre certains des dangers de la technologie de pointe.

À mon avis, les décideurs politiques des démocraties devraient réfléchir sérieusement aux risques des systèmes d'IA pour leurs propres sociétés et pour les personnes vivant sous des régimes autoritaires du monde entier. Une question cruciale est de savoir combien de pays adopteront le modèle chinois de surveillance numérique. Mais ce ne sont pas seulement les pays autoritaires qui ressentent l'attraction. Et il n’ya pas que des entreprises chinoises qui diffusent la technologie: de nombreuses entreprises américaines, y compris Microsoft, IBM, Cisco et Thermo Fisher aussi, ont fourni des capacités sophistiquées à des gouvernements méchants. L'utilisation abusive de l'IA ne se limite pas aux États autocratiques.La Conversation

A propos de l'auteur

Steven Feldstein, chaire d’affaires publiques et professeure agrégée Frank et Bethine Church, École de la fonction publique, Boise State University

Cet article est republié de La Conversation sous une licence Creative Commons. Lis le article original.

Livres connexes

{amazonWS: searchindex = Livres; mots-clés = surveillance AI; maxresults = 3}

enafarzh-CNzh-TWtlfrdehiiditjamsptrues

suivez InnerSelf sur

facebook-icontwitter-iconrss-icon

Recevez le dernier par courriel

{Emailcloak = off}