Mots regardés / Signalement - Conseils demandés

Bonjour à tous,

Je sollicite quelques conseils/orientations de la part de ceux qui supervisent/modèrent/gèrent des sites communautaires depuis plus longtemps que moi (quelques années).

Notre communauté est merveilleusement diversifiée ; elle attire des personnes du monde entier, de différentes cultures, langues, croyances, genres, âges — insérez ici n’importe quelle caractéristique protégée et je suis certain que nous avons une représentation — c’est génial !

Afin de maintenir les choses propres, j’ai ajouté il y a quelque temps (il y a plus d’un an) une série de mots surveillés. Ce sont généralement des jurons, difficiles à décrire sans les utiliser ici, mais certains étaient de la forte saveur, tandis que d’autres étaient peut-être, pour certains, des mots d’usage quotidien. En outre, j’ai ajouté certains termes pouvant être utilisés comme insultes ou injures racistes ou homophobes.

J’ai trouvé difficile de déterminer quels jurons devaient être ajoutés et lesquels non ; il est difficile d’évaluer les tolérances des autres ou leurs seuils d’offense/inadéquation sans rien faire et attendre qu’une personne s’exprime.

Ce soir, j’ai pris connaissance des messages automatisés et modélisés que Discourse envoie lorsque le système signale un sujet comme inapproprié sur la base de la liste des mots surveillés. Dans un exemple, quelqu’un avait dressé une liste de termes relatifs à la sexualité ; l’un d’eux a été signalé à cause de la liste des mots surveillés et le message a été envoyé. Lorsque j’ai vu le message envoyé, il indiquait qu’un certain nombre de personnes de la communauté avaient signalé le sujet comme inapproprié, alors qu’en réalité, c’était simplement parce qu’il avait déclenché l’un des mots de la liste.

Inutile de dire que le message semblait un peu excessif pour le terme utilisé. Je comprends que je puisse modifier les messages modélisés, mais je voulais demander : y a-t-il des situations où ces messages sont envoyés en fonction du nombre de signalements, ou sont-ils simplement rédigés de manière forte pour agir davantage comme dissuasif ?

Je me retrouve donc face à la décision de modifier le contenu du message ou de retirer certains mots de la liste des mots surveillés. Le problème est que certains de ces mots pourraient être utilisés légitimement dans une conversation ; je les ai ajoutés afin qu’un modérateur puisse examiner le terme dans son contexte, en modifiant le sujet si nécessaire après avoir accepté ou rejeté le signalement. À l’époque, je n’étais pas au courant des messages envoyés aux utilisateurs, donc cela semblait être la bonne chose à faire. Bien que cela crée un peu de travail administratif, cela n’arrive pas trop souvent car, généralement, nous avons une communauté très polie :slight_smile:

Le processus que nous utilisons actuellement est à peu près le suivant :

  • vérifier le sujet signalé
  • remplacer le juron par des astérisques
  • accepter le signalement, mais choisir de conserver le message

Cela nous permet de voir le nombre de fois où un utilisateur a eu des sujets signalés, par exemple les récidivistes, mais aussi d’adopter une approche plus douce pour résoudre le problème. Si nous constatons que ces récidivistes ont de nombreux sujets signalés, nous pourrions alors traiter chacun d’eux individuellement/personnellement comme il convient.

Je comprends qu’il existe l’option censure dans les paramètres où je peux également ajouter des mots ; je ne l’ai pas encore essayée, mais je suppose que nous ne recevrons aucune notification/signalement pour ceux-ci ; ils seraient simplement remplacés automatiquement par des astérisques et il n’y aurait rien sur le profil de l’utilisateur indiquant les signalements.

Comme je l’ai dit, nous avons une communauté fabuleuse ; je crois que plus souvent qu’autrement, l’usage de jurons provient de la frustration des gens lorsque les choses ne se passent pas comme ils le souhaiteraient lors de l’apprentissage de nouveaux sujets ; leur message leur donne alors la possibilité de se défouler. Je suis probablement aussi un peu protecteur envers notre jeune public. Je pourrais probablement compter le nombre de jeunes que nous avons sur deux mains, mais je sais que nous en avons quelques-uns, et je voudrais que les choses restent agréables pour eux — en étant pleinement conscient qu’ils connaissent probablement tous beaucoup plus de mots (et peut-être de pires !) que moi :slight_smile:

Donc, je suppose que je pose plusieurs questions ci-dessus ; désolé si j’ai divagué. Quelqu’un peut-il offrir des suggestions sur un processus pour prévenir/gérer l’usage de jurons, d’insultes/injures racistes ou homophobes, qui serait peut-être meilleur que celui décrit ci-dessus ?

Je pourrais presque avoir besoin d’une autre option, une pour les mots qui pourraient être utilisés dans la conversation quotidienne, mais qui nécessitent simplement qu’une personne jette un coup d’œil pour s’assurer que le contexte est acceptable — mais sans envoyer aucune forme de message à l’utilisateur tant qu’une action n’a pas été prise jugeant le contexte comme mauvais.

J’ai essayé d’avancer prudemment ci-dessus sans utiliser réellement aucun des mots auxquels je fais référence dans nos mots surveillés, donc veuillez m’excuser pour le manque d’exemples/scénarios.

Je dois ajouter que je ne trouve personnellement pas grand-chose de tout cela offensant ; j’essaie simplement d’être conscient du fait que nous sommes tous différents et que ce qu’une personne dit, même sans aucune malice, peut offenser quelqu’un d’autre.

Toutes réflexions/idées/suggestions sont les bienvenues — merci d’avance :slight_smile:

2 « J'aime »

I see what you mean, a separate flag message (or substitution of part of the existing message) for watched words would be useful.

Here’s the portion of irrelevant text we send when a watched word is auto-flagged:

Multiple community members flagged this post before it was hidden, so please consider how you might revise your post to reflect their feedback.

That’s true when a post is flagged by users, as it often requires multiple user flags before being auto-hidden, but with watched words your post is auto-hidden immediately.


You could alternatively use the “require approval” variety of watched words and change that message. By default new users don’t need any posts approved, so unless you changed that setting the require approval message can be specifically customized for the watched words case.

You could modify this to say something like “We’ve received your new post but it contains a word that is sometimes used to offend others. A moderator will review your post before it’s published.”

6 « J'aime »

Hi Kris,

Thank you for your reply, appreciated :slight_smile:

I see what you mean, a separate flag message (or substitution of part of the existing message) for watched words would be useful.

Yeah, a kind of soft approach, working in the same way as the flagging, but without a message going out to the user until a decision/action has been taken perhaps, but still providing the same options to the moderator/administrator for keeping the post, deleting the post, editing the post etc.

The paragraph you highlighted from the email was in fact the very one which one community member copy and pasted back to us to query.

Thanks for the idea regarding the Requires Approval, I obviously wouldn’t want to delay anyone’s posts too much, despite being on the forum pretty much every day there could be a number of hours before I return, this could clash with region time zone differences too and give the user a less than satisfactory experience.

Out of interest, when a post is flagged as requiring approval, are the options to then only approve/disallow? As mentioned above, it has been useful to have individuals flagged so that we could potentially identify repeat offenders. If someone triggered the Needs Approval based on a term - what are the outcomes of the moderators/admins response? e.g. is the user still flagged in any way? Are the options different from those you see when a post is currently flagged as inappropriate?

1 « J'aime »