Nous avons récemment ajouté quelques mots-clés à notre instance.
Cependant, notre utilisateur a trouvé des moyens de les contourner comme ci-dessous. Discourse supprime-t-il automatiquement les balises HTML non prises en charge ou non ? Celles-ci sont en fait intégrées au message et n’ont pas déclenché le système de révision.
dis</n>cord discord
tampe</b>rmonkey
Notre liste de mots-clés :
*discord*
*tampermonkey*
Les mots surveillés sont assez grossiers. Il existe de nombreuses façons comme celle-ci de les contourner.
Si un utilisateur fait cela, c’est qu’il l’a fait exprès et vous pouvez le punir en conséquence.
Je crains que vous deviez examiner Discourse AI - Détection de spam
@jimmy0017 avez-vous obtenu une réponse qui satisfait vos besoins ? La réponse de Jay est parfaite. Les mots surveillés peuvent être surmontés par des personnes déterminées à mal se comporter. Vous devez utiliser la modération pour vous assurer qu’elles connaissent les règles et qu’elles doivent respecter les règles afin de faire partie de votre communauté.
Ouais… Mais alors le problème, c’est que nous avons aussi tendance à avoir plus d’enregistrements de « bots ». Nous avons quelques modérateurs qui surveillent ces choses. Mais surtout, nous ne voulons pas que nos utilisateurs voient ce contenu en premier lieu. Nous avons banni pas mal d’utilisateurs « à jamais » pour avoir délibérément contourné les mots surveillés…
Nous allons réfléchir à la détection de spam par IA et voir si c’est quelque chose que nous allons faire. Simplement parce que c’est une façon plus directe de « surveiller les mots » que d’utiliser un LLM d’IA.
J’ai peur que si c’était vrai, vous n’auriez pas écrit ce message. Vous avez des bots plus intelligents que la fonction « mots surveillés ». De plus, il est fort probable qu’il s’agisse de vrais humains (bien que les bots se soient peut-être tellement améliorés au cours de la dernière année que les humains qui créaient de nouveaux comptes ont perdu leur emploi).
L’autre chose que vous pourriez faire serait d’approuver tous les messages des utilisateurs TL0/1. Si vous n’obtenez pas beaucoup de nouveaux utilisateurs légitimes qui seront tristes si leur message n’apparaît pas immédiatement, cela pourrait être une solution « directe ».