Voici la meilleure façon de lutter contre les discours haineux

: By ETH Zurich, Université de Zurich

twitter oiseaux 1, 2 et 3
L'équipe de recherche a testé trois stratégies différentes de contre-discours sur Twitter afin de réduire les discours haineux. (Graphique : alliance F)

Une alternative à la suppression des commentaires problématiques est le recours à des contre-discours ciblés, que de nombreuses organisations utilisent pour lutter contre les discours haineux en ligne.

Il est possible de freiner les discours de haine en ligne en induisant de l'empathie pour les personnes concernées, selon des recherches sur le « contre-discours ».

En revanche, le recours à l'humour ou aux avertissements concernant les conséquences possibles n'a que peu d'effet, affirment les chercheurs.

Pour modérer les commentaires haineux, de nombreuses plateformes de médias sociaux ont développé des filtres sophistiqués. Cependant, ces derniers ne suffisent pas à résoudre le problème. Par exemple, Facebook estime (d'après des documents internes divulgués en octobre 2021) qu'il est incapable de supprimer plus de 5 % des commentaires haineux publiés par les utilisateurs. De plus, les filtres automatiques sont imprécis et pourrait nuire à la liberté d'expression.

Alternative à la suppression des commentaires haineux

Une alternative à la suppression des commentaires problématiques est le recours à des contre-discours ciblés, une méthode utilisée par de nombreuses organisations pour lutter contre les discours haineux en ligne. Cependant, jusqu'à présent, on sait peu de choses sur les stratégies de contre-discours les plus efficaces pour contrer l'hostilité en ligne.

Une équipe de chercheurs dirigée par Dominik Hangartner, professeur de politique publique à l'ETH Zurich, s'est associée à des collègues de l'Université de Zurich pour étudier quels types de messages pourraient inciter les auteurs de discours haineux à y mettre fin.

En utilisant des méthodes d'apprentissage automatique, les chercheurs ont identifié 1 350 anglophones. Twitter Les utilisateurs ayant publié des contenus racistes ou xénophobes ont été répartis aléatoirement entre un groupe témoin et l'un des trois groupes soumis aux stratégies de contre-discours suivantes, fréquemment utilisées : messages suscitant l'empathie envers le groupe ciblé par le racisme, humour ou avertissement quant aux conséquences possibles.

Les résultats, qui apparaissent dans le Actes de l'Académie nationale des sciencesLes constats sont clairs : seuls les messages de contre-discours qui suscitent de l’empathie pour les personnes touchées par les discours haineux sont susceptibles de persuader les auteurs de modifier leur comportement.

Réponse aux discours haineux

Un exemple de réponse pourrait être : « Votre message est très pénible à lire pour les Juifs… » Comparés au groupe témoin, les auteurs de tweets haineux ont publié environ un tiers de commentaires racistes ou xénophobes en moins après une intervention visant à susciter l’empathie. De plus, la probabilité qu’un utilisateur supprime son tweet haineux a augmenté de manière significative.

En revanche, les auteurs de tweets haineux ont à peine réagi aux réponses humoristiques. Même un message leur rappelant que leurs proches pouvaient également voir leurs propos haineux s'est avéré inefficace. Ce constat est frappant, car ces deux stratégies sont fréquemment employées par les organisations engagées dans la lutte contre les discours haineux.

« Nous n'avons certes pas trouvé de solution miracle contre les discours haineux sur Internet, mais nous avons mis au jour des indices importants sur les stratégies qui pourraient fonctionner et celles qui ne fonctionnent pas », explique Hangartner. Il reste à déterminer si toutes les réponses fondées sur l'empathie sont aussi efficaces l'une que l'autre, ou si certains messages sont plus performants. Par exemple, on pourrait encourager les auteurs de discours haineux à se mettre à la place de la victime ou à adopter un point de vue analogue (« Comment vous sentiriez-vous si l'on parlait de vous de cette façon ? »).

Ces recherches s'inscrivent dans un projet plus vaste visant à développer des algorithmes de détection des discours de haine et à tester et affiner des stratégies de contre-discours. À cette fin, l'équipe de recherche collabore avec l'alliance F, organisation féministe suisse à l'origine du projet de société civile « Stop aux discours de haine ». Grâce à cette collaboration, les scientifiques peuvent fournir à l'alliance F des données empiriques pour optimiser la conception et le contenu de ses messages de contre-discours.

« Les résultats de cette recherche me rendent très optimiste. Pour la première fois, nous disposons de preuves expérimentales démontrant l’efficacité de la contre-discours en situation réelle », déclare Sophie Achermann, directrice générale de l’alliance F et co-initiatrice de Stop Hate Speech.

L’agence suisse pour l’innovation Innosuisse a financé ce travail, auquel ont également participé les groupes de médias Ringier et TX Group, via leurs journaux respectifs Blick et 20 Minuten.

Source: ETH Zurich, étude originale

pause