Comment Big Tech conçoit-il ses propres règles d'éthique pour éviter la surveillance et la responsabilisation

Comment Big Tech conçoit-il ses propres règles d'éthique pour éviter la surveillance et la responsabilisation

L'éthique des données est maintenant une cause célèbre.

«Ethique numérique et confidentialité» dans la société de recherche et de conseil Gartner's Les dix principales tendances technologiques stratégiques pour 2019. Avant cela, il a à peine soulevé une mention.

L'année dernière Gouvernements, sociétés et de politique et technologie groupes de réflexion ont publié éthique des données guides. Toute une cohorte d'experts en éthique des données s'est matérialisée par magie.

Pourquoi cet intérêt soudain pour l'éthique des données? Qu'est-ce que l'éthique des données? À qui sont destinées ces directives?

Pour comprendre ce qui se passe, il est nécessaire de prendre du recul et de regarder comment le paysage de l'information s'est déroulé.

L'image qui se dégage est celle d'une industrie à l'abri des contraintes réglementaires applicables à tous les autres.

La brillance a disparu

Au cours des dernières années, l’industrie de l’information a perdu de son éclat.


Obtenez les dernières nouvelles d'InnerSelf


Le choix parfait pour changer de look en quelques minutes. révélations Snowdenla Le scandale de Cambridge Analytica, habilitation des médias sociaux discours de hainela la militarisation de l'information et son rôle dans la dégradation des institutions démocratiques ont tous contribué.

Le modèle commercial qui monétise les informations personnelles pour vendre de la publicité est maintenant considéré comme une bonne affaire - peut-être que le sacrifice n'en vaut pas la peine, après tout. De 2017 à 2018, il y avait un 6% de chute du nombre d'utilisateurs de Facebook aux États-Unis sur le lucratif marché des années 12-34.

Ces préoccupations ont conduit à des appels à la réglementation. Mais ceux-ci ont eu du mal à gagner du terrain face à l'orthodoxie réglementaire en vigueur dans le secteur de la technologie. Cela remonte à Al Gore cinq principes pour avoir permis ce que l’on appelait alors étrangement «l’autoroute mondiale de l’information».

Le principe trois était que la politique de réglementation «créerait un cadre réglementaire flexible pouvant suivre le rythme des évolutions rapides de la technologie et du marché». Ce code ne prévoyait aucune réglementation ou autorégulation. En Australie, on l'appelait Règlement «touche légère».

Big Tech a agi en toute impunité réglementaire, largement libérée des préoccupations banales de la «vieille» économie, telles que la protection des consommateurs, la responsabilité du fait des produits, le droit de la concurrence ou, en particulier, la confidentialité des informations.

Encerclant plus près

L'Europe n'a jamais complètement adopté cette approche de laisser-faire. La confidentialité des informations a toujours été une des priorités de son programme, aboutissant au règlement général sur la protection des données 2018 (GDPR). Cela donne aux citoyens de l'Union européenne les droits de protection des données les plus complets au monde. Les droits ont une portée extraterritoriale, impliquent une surveillance réglementaire et emploient amendes civiles d'une magnitude époustouflante. D'autres juridictions commencent à faire de même.

En parallèle, les régulateurs d'autres disciplines commencent à tourner en rond. Les régulateurs anti-trust reviennent sur les monopoles de l'information et l'utilisation par les grandes technologies du pouvoir de marché pour restreindre la concurrence.

En Australie, l’ACCC a appelé à un nouvelle autorité de régulation surveiller et étudier l'effet des algorithmes sur le classement des informations et du contenu journalistique.

Le rapport du Comité restreint des communications du Royaume-Uni sur la réglementation dans un monde numérique a recommandé une nouvelle autorité numérique superviser la réglementation «fragmentée» de l'environnement numérique autour de dix principes de réglementation, notant que «la réglementation [s] elf par les plates-formes en ligne est clairement défaillante». Les organismes de réglementation des droits de l'homme étudient actuellement le rôle des algorithmes dans la création et la consolidation de la discrimination.

Data, c'est de l'argent

Big Tech ne veut pas être réglementé. Il ne souhaite pas que sa capacité illimitée de collecte d'informations personnelles soit restreinte ou que les protections de type GDPR deviennent la norme mondiale. Les informations personnelles constituent la matière première des algorithmes permettant de monétiser notre attention.

Pour une industrie qui se targue d'être «perturbatrice», la plus grande inquiétude des grandes technologies est de prévenir le resserrement de la réglementation afin d'éviter d'être perturbé. L'éthique des données est l'un des moyens mis au point pour lutter contre la réglementation. Pour ce faire, il s’approprie les vertus associées à l’éthique mais les vide de son contenu ou de ses conséquences.

Prendre Les principes de Google pour l'IA. (AI est une intelligence artificielle). Ceux-ci sont:

  • être socialement bénéfique
  • éviter de créer ou de renforcer des préjugés injustes
  • être construit et testé pour la sécurité
  • être responsable envers les gens
  • intégrer les principes de conception de la vie privée
  • respecter des normes d'excellence scientifique élevées
  • être mis à disposition pour des utilisations conformes à ces principes.

Ces «principes» sont étonnamment similaires aux homélies de bien-être publiées sur Instagram qui nous incitent à «être bons les uns envers les autres» ou à «ne pas laisser le soleil se coucher sur notre colère» et sont à peu près aussi utiles.

économie Vraiment? Capture d'écran capturée en mars 28 2019

Mis à l'épreuve

Examinons l'un des principes de Google, "Soyez responsables envers les gens".

Il y a plusieurs niveaux d'ambiguïté ici. Cela signifie-t-il que les algorithmes d'IA de Google doivent être responsables devant les «personnes» en général, les «personnes» de Google ou les «personnes» de quelqu'un d'autre, comme un régulateur indépendant?

Si tel est le cas, Google fournira-t-il l'algorithme d'analyse, corrigera-t-il les erreurs et compensera-t-il les dommages?

Si les algorithmes d'IA de Google concluent à tort que je suis un terroriste, puis transmettent ces informations aux agences de sécurité nationale qui les utilisent pour m'arrêter, me tenir au secret et m'interroger. Google sera-t-il responsable de sa négligence ou d'avoir contribué à mon emprisonnement illégal? Comment sera-t-il responsable? Si je ne suis pas satisfait de la version de Google relative à la responsabilité, à qui dois-je faire appel pour que justice soit faite?

L'éthique utile implique la responsabilité

L'éthique concerne les principes moraux qui affectent la manière dont les individus prennent des décisions et mènent leur vie.

L'éthique a été étudiée et débattue depuis des lustres. Dans les traditions occidentales, l’éthique remonte à Socrate. Ils incluent des positions philosophiques telles que l'éthique déontologique (fondée sur le devoir), le conséquentialisme, l'utilitarisme et l'existentialisme, pour n'en citer que quelques-uns. Sans surprise, aucune de ces réponses ne donne les mêmes réponses aux questions sur ce qu’un individu doit faire dans des circonstances particulières.

L’éthique appliquée vise à appliquer les principes de l’éthique à des situations réelles. Il y a de nombreux exemples.

L'éthique du secteur public est régie par la loi. Ceux qui les enfreignent ont des conséquences, notamment des mesures disciplinaires, le licenciement et parfois des sanctions pénales. Pour devenir avocat, je devais prouver à un tribunal que je suis une «personne apte et convenable». Pour continuer à exercer, je suis tenu de respecter les exigences détaillées énoncées dans les règles de conduite des avocats australiens. Si je les enfreins, il y a des conséquences.

Les caractéristiques de l'éthique appliquée sont qu'elles sont spécifiques, qu'il existe des boucles de rétroaction, que des conseils sont disponibles, qu'elles sont intégrées à la culture organisationnelle et professionnelle, qu'il existe une surveillance adéquate, que des conséquences sont violées, qu'il existe des mécanismes d'application indépendants et de véritables recours . Ils font partie d'un appareil réglementaire et ne se limitent pas à des déclarations de «bien-être».

Feelgood, les principes d’éthique des données de haut niveau ne sont pas adaptés à la réglementation des technologies de pointe. L'éthique appliquée peut avoir un rôle à jouer mais, étant donné qu'elles sont spécifiques à une profession ou à une discipline, on ne peut pas compter sur elles pour faire tout le travail, voire même la majeure partie.

Les inconvénients liés à la technologie de pointe ne peuvent être résolus que par une réglementation appropriée.La Conversation

A propos de l'auteur

David Watts, professeur de droit et de politique de l'information, La Trobe University

Cet article est republié de La Conversation sous une licence Creative Commons. Lis le article original.

Livres connexes:

{amazonWS: searchindex = Livres; mots-clés = monopoles numériques; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

suivez InnerSelf sur

facebook-icontwitter-iconrss-icon

Recevez le dernier par courriel

{Emailcloak = off}