Pourquoi c'est une erreur de célébrer la répression sur les sites Web haineux

Pourquoi c'est une erreur de célébrer la répression sur les sites Web haineux Les entreprises privées luttent contre la haine en ligne sans contrôle ni réglementation indépendants, ce qui a des conséquences graves et des risques pour les libertés et les droits fondamentaux de l'homme. (Shutterstock)

La marche aux flambeaux organisée récemment par des suprématistes armés à Charlottesville, en Virginie, continue de susciter un débat sur la manière dont les groupes haineux devraient être réglementés. Face à la pression publique croissante qui a suivi mars, les sociétés Internet se sont précipitées pour supprimer de leurs plateformes les sites Web épousant de violents discours de haine.

GoDaddy a mis fin à ses services de domaine sur le site néo-nazi The Daily Stormer, comme l'a fait Google. Cloudflare, une entreprise qui protège les sites Web contre les attaques en ligne, a également interdit le site Web de la haine à partir de sa plate-forme. La Russie a ordonné le site barré d'être hébergé dans le pays.

Ma recherche et mon livre Chokepoints: Réglementation privée mondiale sur Internet démontrer que de nombreuses entreprises Internet suppriment déjà du contenu et interdisent les utilisateurs «volontairement», c'est-à-dire en l'absence de législation ou de processus judiciaire. Les principaux intermédiaires, tels que Google, PayPal, GoDaddy, Twitter et Facebook, contrôlent volontairement leurs plateformes en matière de contenu sur les abus sexuels sur enfants, l'extrémisme et le commerce illicite de produits contrefaits.

Il est compréhensible que de nombreuses personnes se félicitent de ces efforts visant à éliminer les discours de haine et tout autre contenu répréhensible. Cependant, les efforts des sociétés Internet en tant que régulateurs de facto de la parole soulèvent de sérieuses questions: comment le contenu en ligne devrait-il être réglementé? Par qui?

Je ne soutiens pas les suprémacistes blancs et je ne discute pas contre le maintien de l'ordre dans de tels propos. Je dis plutôt que nous devons réfléchir sérieusement à la manière de réglementer le contenu en ligne, car le cas suivant ne sera peut-être pas aussi clair.

Il est très difficile de s’en remettre à des entreprises puissantes pour contrôler l’Internet, car leurs pratiques en matière d’application sont extrêmement opaques et sujettes à une interprétation arbitraire.

Précédent troublant

Matthew Prince, président-directeur général de Cloudflare, a présenté un point de vue nuancé et averti, soulignant que le retrait des services de groupes haineux en réponse à la pression publique créait un précédent troublant dans le maintien de l'ordre dans le discours en ligne. .

Dans un article de ce blog expliquant les actions de Cloudflare contre le Daily Stormer, Prince a fait valoir que la société considérait la procédure régulière comme un "principe plus important" que la liberté de parole. Une procédure régulière, dit-il, signifie que "vous devriez être capable de connaître les règles qu'un système suivra si vous participez à ce système". Cette déclaration rend bien compte des problèmes inhérents aux intermédiaires qui agissent en tant que régulateurs de fait du contenu et du comportement en ligne.

Plus tôt cette année, Employés Shopify et des centaines de des milliers de personnes a demandé et pétitionné la plate-forme de commerce en ligne cessera d'héberger la boutique en ligne de l'extrême droite Breitbart Media. Président exécutif réintégré Stephen Bannon appellent Breitbart "la plate-forme de l'alt-droite." Le soi-disant "alt-right" - un terme popularisé par Richard Bertrand Spencer - couvre un mélange d'idéologies conservatrices suprématistes, séparatistes, néonazies, fascistes, racistes, antisémites, islamophobes et populistes.

Tobias Lütke, PDG de Shopify, a déclaré qu'il défendait la liberté d'expression la société d’Ottawa continuant d’héberger la boutique en ligne de Breitbart sous la menace de employés démissionnant. Après public pression et une campagne populaire baptisée #DeleteShopify conduit à un examen qui a révélé plus affaire discutable, Shopify était forcé adopter un "Politique d'utilisation acceptable."

Les exemples contrastés de The Daily Stormer et de sa suppression par les sociétés Internet, ainsi que le soutien indéfectible de Shopify à Breitbart, illustrent les extrêmes d'un dilemme qui ne fait que s'intensifier.

Politiques arbitraires, réglementation

Les intermédiaires Internet sont potentiellement des régulateurs puissants sur une grande variété de problèmes, car ils peuvent agir rapidement et sans ordonnance du tribunal. Fait important, ils ont la latitude de censurer tout contenu ou d’interdire les utilisateurs en vertu de leurs contrats de conditions de service.

PayPal se réserve le droit de mettre fin à ses services aux utilisateurs “pour une raison quelconque et à tout moment, «Langage qui fait écho dans les contrats de service de la plupart des intermédiaires. La capacité de régulation arbitraire est ainsi intégrée dans les règles internes des intermédiaires.

Prince a averti que l'action de Cloudflare contre le Daily Stormer créait un précédent pour les intermédiaires en matière de maintien de l'ordre par la police sans ordonnance du tribunal les obligeant à le faire.

Ces intermédiaires agissent souvent à la demande des gouvernements qui préfèrent que les entreprises soient le visage public (mais en grande partie non responsable) de la réglementation de l'Internet. Mais ces entreprises sont généralement mal équipées pour distinguer la légalité de l'illégalité, provoquant des licenciements illicites et ciblant par erreur des comportements licites.

Tout aussi problématique: les processus de mise en œuvre des intermédiaires sont souvent opaques, leurs modérateurs de contenu interprétant arbitrairement leurs règles internes complexes et évoluant rapidement. Ces problèmes sont aggravés par l'utilisation croissante par les intermédiaires d'outils automatisés pour identifier et supprimer les contenus problématiques sur leurs plateformes.

Il y a aussi l'inquiétude de ce qu'on appelle la mission-rampe lorsque les règles adoptées pour la première fois contre la maltraitance des enfants ou le terrorisme - catalyseurs notables d'actions répressives - sont ensuite appliquées à d'autres problèmes nettement moins dommageables, tels que le téléchargement non autorisé de contenu protégé par le droit d'auteur.

Le futur dystopique est arrivé

Les efforts de réglementation vont généralement de la censure des discours de haine violents à d’autres discours qui peuvent être considérés comme controversés par certains, comme celui de Black Lives Matter. De plus, les gouvernements du monde entier font régulièrement pression sur les intermédiaires censeur et piste critiques et opposants politiques.

Lorsque les principaux intermédiaires deviennent des régulateurs de référence chargés de contrôler le contenu pour le compte des gouvernements ou en réponse à des manifestations très médiatisées, leur pouvoir, déjà considérable, augmente. Les sociétés Internet basées aux États-Unis dominent déjà de nombreux secteurs, notamment la recherche, la publicité, l'enregistrement de domaine, le paiement et les médias sociaux. Le prince de Cloudflare à juste titre averti en dépendant de «quelques réseaux géants», «un petit nombre d'entreprises déterminera en grande partie ce qui peut et ne peut pas être en ligne».

Ce futur dystopique est déjà là.

Le retrait du Daily Stormer fait sans aucun doute du monde un meilleur endroit. Mais voulons-nous vraiment que des sociétés comme Facebook et Twitter décident - de manière indépendante, arbitraire et secrète - du contenu auquel nous pouvons accéder et que nous pouvons partager?

Étant donné ces problèmes apparemment insolubles, que pouvons-nous faire? Premièrement, nous devrions éviter de gouverner sur la base de manifestations ou de pressions des médias. Au lieu, nous avons besoin d'un ensemble de règles claires permettre aux intermédiaires de répondre de manière cohérente, transparente et dans le respect des procédures, comme l'a recommandé Prince.

Les gouvernements devraient clarifier la nature et surtout les limites des responsabilités des intermédiaires en matière de réglementation. Enfin, nous devons cesser de gouverner en réponse à des crises spécifiques - ce qu’on appelle les "fausses informations", du terrorisme et des groupes haineux - et réfléchir au lieu de cela à la manière dont nous pouvons et devons gouverner Internet.La Conversation

A propos de l'auteur

Natasha Tusikov, professeure adjointe, criminologie, département des sciences sociales, Université York, Canada

Cet article est republié de La Conversation sous une licence Creative Commons. Lis le article original.

Livres connexes

{amazonWS: searchindex = Livres; mots-clés = discours de haine; maxresults = 3}

enafarzh-CNzh-TWtlfrdehiiditjamsptrues

suivez InnerSelf sur

facebook-icontwitter-iconrss-icon

Recevez le dernier par courriel

{Emailcloak = off}