La transparence dans la modération compte-t-elle vraiment ? : Comportement des utilisateurs après des explications de suppression de contenu sur Reddit
Lorsqu’un message est supprimé sur une plateforme de médias sociaux, les utilisateurs peuvent ou non recevoir une explication. Quels types d’explications sont fournis ? Ces explications ont-elles de l’importance ? En utilisant un échantillon de 32 millions de messages Reddit, nous caractérisons les explications de suppression fournies aux utilisateurs de Reddit et les mettons en relation avec des mesures de comportements utilisateurs ultérieurs, notamment les futures soumissions de messages et les futures suppressions de messages.
En adoptant une approche de modélisation thématique, nous montrons que les explications de suppression fournissent souvent des informations qui éduquent les utilisateurs sur les normes sociales de la communauté, les préparant ainsi (théoriquement) à devenir des membres productifs. Nous avons construit des modèles de régression qui démontrent que les explications de suppression jouent un rôle dans l’activité future des utilisateurs. Plus important encore, nous montrons que fournir des explications pour la modération de contenu réduit les chances de futures suppressions de messages. De plus, les explications fournies par des modérateurs humains n’ont pas présenté d’avantage significatif par rapport à celles fournies par des bots pour réduire les futures suppressions de messages.
Nous proposons des solutions de conception pouvant favoriser une utilisation efficace des mécanismes d’explication, en réfléchissant à la manière dont les outils de modération automatisés peuvent contribuer à ce domaine. Dans l’ensemble, nos résultats suggèrent que les explications de suppression sont peut-être sous-utilisées dans les pratiques de modération, et qu’il pourrait être pertinent pour les gestionnaires de communauté d’investir du temps et des ressources dans leur fourniture.
(Je n’ai pas lu le contenu de ce papier, au passage, donc il s’agit simplement d’un commentaire général sur la modération et la transparence de celle-ci.)
Discourse est déjà excellent et supérieur à la plupart des logiciels de forum : les utilisateurs sont notifiés de la plupart des actions des modérateurs. Cependant, je pense que nous pourrions certainement améliorer les fonctionnalités de modération.
Pour vous donner un exemple, nous supprimons régulièrement les insultes ou les attaques personnelles dans les publications, et certains utilisateurs s’en sont plaints, demandant qu’on leur demande de faire eux-mêmes les modifications et que nous ne touchions pas à leurs messages.
Bien sûr, cela n’est pas pratique : tout l’intérêt de retirer une attaque personnelle est d’empêcher la personne visée de la voir, ce qui pourrait faire dériver la situation. De plus, les modérateurs n’ont pas le temps d’envoyer un message privé à un utilisateur pour lui demander de faire la modification, de noter l’incident, de se souvenir de vérifier, de renvoyer un message ou de prendre d’autres mesures si les modifications requises n’ont pas été apportées : c’est simplement trop lourd pour les équipes de modération.
Une alternative pourrait être d’utiliser le système de signalement qui masque un message, mais que se passe-t-il si l’utilisateur le démasque ou ne fait pas une modification adéquate ? Nous devrions toujours noter de vérifier, de démasquer à nouveau, etc. (De plus, retirer le message de la vue a d’autres inconvénients : cela peut ralentir le flux de la conversation, donner l’impression qu’il est trop pénible de poster, etc., ce qui peut généralement être évité par une simple modification de modération.)
Je suis fermement convaincu que Discourse pourrait porter la modération à un niveau supérieur, tout comme ils l’ont fait dans d’autres aspects des logiciels de forum Cela nécessiterait beaucoup plus de réflexion qu’un simple message ou fil de discussion, car la modération est difficile (personne n’aime être modéré !)
Je serais ravi de participer à de telles discussions et je suis certain que @HAWK serait inestimable dans un tel effort.
Pour des choses graves comme des insultes racistes, sexistes ou intolérantes, je ne pense pas qu’il y ait un intérêt à laisser traîner des déchets toxiques qui continuent d’empoisonner la communauté, par exemple :
Je suis tout à fait d’accord – j’ai une note à ce sujet dans notre espace pour le personnel :
Bonjour à tous,
L’un de nos membres s’est récemment identifié comme _____ et, bien qu’il soit peu probable qu’il subisse des abus de la part de vrais membres de la communauté, il est possible que quelqu’un ayant un compte à régler contre [sujet du forum] ou la communauté le vise comme une cible facile ou un moyen de créer un conflit intercommunautaire.
Si un utilisateur est « nouveau » (c’est-à-dire qu’il s’est inscrit récemment et a très peu de messages) et qu’il tient des propos racistes, transphobes, homophobes ou sexistes, veuillez bannir son compte immédiatement et supprimer tous les messages offensants. Le motif du bannissement peut simplement être : « Les commentaires enfreignent notre Code de conduite ».
Si l’utilisateur est un membre régulier, veuillez supprimer le ou les messages offensants et lui envoyer un MP pour l’informer que le message a été supprimé car il semble enfreindre nos règles, et lui demander de s’abstenir de publier davantage dans ce fil (ou de contacter l’autre utilisateur si un autre membre était impliqué) jusqu’à ce qu’un membre de l’équipe d’administration ait examiné la situation et pris contact directement avec lui. S’il ignore cet avis et continue de publier dans le fil ou de tenir des propos abusifs, suspendez son compte avec le message : « Non-respect de la demande du modérateur. En attente de l’examen par l’administration. »
Veuillez ensuite consigner tout incident dans ce fil, et nous examinerons chaque cas pour déterminer les actions nécessaires. Si je ne suis pas disponible et que les problèmes persistent (par exemple, si d’autres débattent de la question dans ce fil ou un autre), verrouillez simplement le fil avec un avis « En attente de l’examen par l’administration ».
C’est le reste qui est délicat – je vais me coucher maintenant, mais je tenterai d’y revenir demain.
(Ces notes du personnel sont-elles visibles publiquement ou uniquement par la personne qui a publié le message, au fait ?)
Nous ne souhaitons pas dicter la manière dont les gens modèrent leurs communautés ; nous voulons simplement leur fournir les outils pour qu’ils puissent le faire comme ils l’entendent.
Alors, je suis curieux : qu’est-ce qui pourrait être fait différemment ? Vous pouvez masquer, démasquer, supprimer, donner la possibilité à la communauté de masquer, ou ajouter des annonces du personnel.
En ce qui concerne de telles notifications, nous n’utiliserions presque certainement pas ce type de système pour la modération des utilisateurs, car nous préférons éviter d’embarrasser publiquement (ou de réprimander) un utilisateur si possible. Nous ne rendons les problèmes d’utilisateurs publics que lorsque nous n’avons guère le choix (par exemple, lorsque leur comportement affecte de plus en plus de personnes sur le forum).
Si ces notifications n’étaient visibles que par le créateur du message, nous pourrions les utiliser dans certains cas, à condition de rendre évident que seul le créateur peut les voir.
Pourquoi adoptons-nous cette approche ? Parce que les gens détestent être modérés et encore plus être « humiliés » publiquement — cela peut être frustrant (et quelque peu irrespectueux : si quelqu’un a commis une erreur honnête, il ne devrait pas se sentir idiot devant toute la communauté). Offenser les utilisateurs de cette manière peut créer d’énormes problèmes plus tard : s’ils se sentent blessés, ils n’oublieront jamais, et cela aggravera les problèmes futurs, ce qui pourrait mener à des conflits au sein de la communauté ou à des désaccords avec les modérateurs (ce qui, malheureusement, ne finit jamais bien). Dans le pire des cas, ils pourraient quitter le forum ou se faire bannir et lancer des attaques plus malveillantes. Cela ne vaut tout simplement pas la peine, surtout si vous aviez raisonnablement confiance en eux en tant qu’utilisateurs sincères.
Je suis d’accord — je pense juste qu’à l’heure actuelle, les outils semblent refléter la manière traditionnelle de modérer (avec quelques améliorations bien sûr), mais je pense qu’il existe probablement une bien meilleure approche (tout comme vous, à DC, l’avez démontré pour d’autres aspects des logiciels de forum)… il nous reste simplement à déterminer quelle est cette meilleure voie.
C’est un vaste sujet, mais je pense que l’essentiel sur lequel nous devons nous concentrer actuellement est de rendre la modération aussi acceptable que possible, sans surcharger l’équipe de modération.
Malheureusement, je n’ai pas le temps d’entrer dans plus de détails pour le moment, mais j’adorerais en discuter davantage peut-être au début de la nouvelle année ?
J’ai passé de nombreux mois à réfléchir à cela (tout en réexaminant la manière dont nous modérions SitePoint avant de passer à Discourse) et je pense que nous avons atteint un très bon niveau [pour ce forum particulier] en mettant en place de nouveaux processus pilotés par les outils disponibles ici. Nous avons pratiquement tout jeté et repartons de zéro, ce qui était grandement nécessaire.
Je ne suis pas sûr de quels problèmes de modération nous devons résoudre qui ne le soient déjà, c’est pourquoi je suis bien sûr intéressé par vos réflexions. Je reconnais qu’il est difficile de sortir du cadre des communautés que vous avez gérées individuellement, mais je pense qu’il est important de commencer par des problèmes réels plutôt que par des hypothèses.
Même chose. Le Nouvel An semble être une bonne idée.
Ce fil de discussion a un peu dévié, mais je pense que le point principal à retenir de cet article est qu’il vaut la peine d’expliquer en privé aux utilisateurs qui publient du contenu contraire aux directives pourquoi leur propre contenu est supprimé. L’étude indique que plus les détails fournis sont nombreux, mieux c’est.
Concrètement, si le contenu de quelqu’un est supprimé parce que N personnes l’ont signalé, je crois que le message automatique envoyé à l’utilisateur dit actuellement : « votre publication a été supprimée car N personnes vous ont signalé » ; ce message ne fournit aucune information sur les raisons pour lesquelles la publication pourrait enfreindre les directives de la communauté.
Ceci n’est qu’un exemple. Je pense que l’idée générale est la suivante : les suppressions doivent être accompagnées des raisons pour lesquelles la publication a été supprimée, des raisons sur lesquelles l’utilisateur peut agir pour modifier/corriger la publication, même (et surtout) s’il s’agit simplement d’explications prédéfinies sélectionnées dans une liste déroulante.
Ce n’est pas exact. Il fournit des informations sur le type de signalement, conformément à la boîte de dialogue de signalement : hors sujet, inapproprié, spam ou « autre ».
Cela nécessiterait beaucoup plus de réflexion qu’un simple message ou fil de discussion, car la modération est difficile (personne n’aime être modéré !)
