Comment savoir si une discussion en ligne va devenir méchante

Comment savoir si une discussion en ligne va devenir méchante

Les chercheurs ont créé un modèle pour prédire quelles conversations civiles en ligne pourraient prendre un tournant et dérailler.

Après avoir analysé des centaines d'échanges entre les éditeurs de Wikipédia, les chercheurs ont développé un programme informatique qui recherche les signes d'avertissement dans la langue des participants au début d'une conversation - comme des questions répétées ou directes ou l'utilisation du mot «vous». les conversations civiles iraient de travers. (Note de l'éditeur: Pour plus d'informations sur le quiz en ligne, voir la fin de cet article.) (Quiz en ligne "Devinez quelle conversation ira de travers": http://awry.infosci.cornell.edu/)

Les premiers échanges qui comprenaient des salutations, des expressions de gratitude, des haies telles que "il semble", et les mots "je" et "nous" étaient plus susceptibles de rester civils, selon l'étude.

"Il y a des millions de discussions de ce genre qui ont lieu tous les jours, et vous ne pouvez pas les surveiller tous en direct. Un système basé sur cette découverte pourrait aider les modérateurs humains à mieux orienter leur attention », explique Cristian Danescu-Niculescu-Mizil, professeur adjoint de sciences de l'information à l'Université Cornell et coauteur de le papier.

"Nous, en tant qu'êtres humains, avons une intuition de savoir si une conversation est sur le point de mal tourner, mais c'est souvent juste un soupçon. Nous ne pouvons pas le faire 100 pour cent du temps. Nous nous demandons si nous pouvons construire des systèmes pour reproduire ou même aller au-delà de cette intuition », explique Danescu-Niculescu-Mizil.

Le modèle informatique, qui considérait également Perspective de Google, un outil d'apprentissage automatique pour évaluer la «toxicité», était correct autour de 65 pour cent du temps. Les humains ont deviné correctement 72 pour cent du temps.

Les gens peuvent tester leur propre capacité à deviner quelles conversations vont dérailler lors d'un quiz en ligne.

L'étude a analysé les conversations 1,270 qui ont débuté civilement mais qui ont dégénéré en attaques personnelles, tirées de 50 millions de conversations à travers 16 millions de pages "talk" de Wikipedia, où les éditeurs discutent d'articles ou d'autres problèmes. Ils ont examiné les échanges par paires, en comparant chaque conversation qui a mal tourné avec un qui a réussi sur le même sujet, de sorte que les résultats ne sont pas faussés par des sujets sensibles tels que la politique.


Obtenez les dernières nouvelles d'InnerSelf


Les chercheurs espèrent que ce modèle peut être utilisé pour sauver des conversations à risque et améliorer le dialogue en ligne, plutôt que pour interdire des utilisateurs spécifiques ou censurer certains sujets. Certaines affiches en ligne, comme les anglophones non-anglophones, peuvent ne pas se rendre compte qu'elles peuvent être perçues comme agressives, et les incitations à un tel système pourraient les aider à s'auto-ajuster.

"Si j'ai des outils qui trouvent des attaques personnelles, c'est déjà trop tard, car l'attaque est déjà arrivée et les gens l'ont déjà vue", explique le co-auteur Jonathan P. Chang, étudiant au doctorat à Cornell. "Mais si vous comprenez que cette conversation va dans une mauvaise direction et que vous agissez alors, cela pourrait rendre l'endroit un peu plus accueillant."

Le document, co-écrit avec d'autres collaborateurs à Jigsaw et la Wikimedia Foundation, fera partie de la réunion annuelle de l'Association for Computational Linguistics (Juillet 2018) à Melbourne, en Australie.

*****

Devinez quelle conversation ira de travers!

Instructions du quiz en ligne:

Dans cette tâche, on vous montrera des paires de conversations 15. Pour chaque conversation, vous ne verrez que les deux premiers commentaires de la conversation. Votre travail consiste à deviner, en fonction de ces démarreurs de conversation, quelle conversation est plus susceptible de éventuellement conduire à une attaque personnelle de l'un des deux premiers utilisateurs.

Après avoir répondu à chaque question, vous obtiendrez un retour instantané pour savoir si votre réponse était correcte (indiquée en vert) ou incorrecte (indiquée en rouge).

Plus de détails:

En faisant votre supposition, vous devriez utiliser la définition suivante d'une attaque personnelle comme référence:

A attaque personnelle est un commentaire impoli, insultant ou irrespectueux envers une personne / un groupe ou envers les actions et / ou le travail de cette personne / groupe.

Gardez à l'esprit que vous ne recherchez pas d'attaques personnelles dans les commentaires qui sont montré. Au contraire, vous devriez utiliser votre intuition de dynamique sociale pour décider quel échange est le plus susceptible de conduire l'un des participants à poster une attaque personnelle (que vous n'êtes pas montré).

Parfois, il peut sembler qu'aucune des deux citations n'est susceptible de mener à une attaque, ou que les deux semblent tout aussi probables. Cependant, gardez à l'esprit que les conversations sources ont déjà été annotées par des humains, et que l'une d'entre elles mène à une attaque personnelle. Faites de votre mieux pour «récupérer» ces étiquettes existantes!

Ce n'est pas une tâche facile, et cela peut prendre quelques minutes pour répondre à chaque question. Comme c'est une tâche difficile, les trois premières questions sont des questions «d'échauffement» qui n'affecteront pas votre score; ils sont là pour vous aider à «calibrer» votre perception des facteurs susceptibles de signaler de futures attaques. Mais rappelles-toi, votre tâche consiste à récupérer autant d'étiquettes que vous le pouvez.

En raison de la nature de la tâche, certains de ces commentaires peuvent contenir un contenu offensant. Nous sommes désolés à ce sujet.

Cliquez ici pour un quiz en ligne.

La source: L'Université Cornell

Livres connexes

{amazonWS: searchindex = Livres; mots-clés = communication réussie; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

suivez InnerSelf sur

facebook-icontwitter-iconrss-icon

Recevez le dernier par courriel

{Emailcloak = off}