Et voici un exemple de ces mêmes spammeurs qui se font prendre ici : https://meta.discourse.org/t/full-list-of-quickbooks-desktop-support-contact-numbers-a-complete-call-center-in-the-usa/380776 (c’est déjà masqué).
Ces gars-là travaillent dur, c’est sûr.
Excellent travail sur cette fonctionnalité. 
C’est exactement comme ça que j’aime voir l’IA utilisée.
Petite question : lorsqu’un nouvel utilisateur TL0 soumet une réponse ou un sujet, y a-t-il un délai avant que le contenu ne soit analysé ?
Je vois un court délai dans le testeur intégré (capture d’écran ci-dessous), mais lorsque je poste depuis un compte de test, il n’y a pas de pause similaire. L’analyse en direct est-elle asynchrone après la publication, le message n’étant masqué que s’il enfreint une règle ? (contexte : j’utilise l’API OpenAI ChatGPT 5.)
Pour ce que ça vaut, AI > Spam & Stats s’incrémente comme prévu avec le compte de test, donc le message EST analysé ; il n’introduit simplement pas le même délai que le bouton Test.
Merci.
Ok, cela fonctionne plutôt bien, mais que se passe-t-il lorsqu’il signale des dizaines de sujets/utilisateurs ? Je ne vois aucun moyen de bannir/supprimer en masse ces utilisateurs/messages.
Merci pour ce fil de discussion détaillé. Nous avons activé la détection de spam Discourse AI sur notre instance, et l’une des choses que nous constatons est le silence automatique par défaut lorsque le premier message publié par un compte est signalé.
Je comprends que c’est pour réduire au silence les spammeurs ponctuels ; cependant, cela pose des problèmes lorsque l’approbation/l’acceptation d’un signalement signifie que l’utilisateur restera réduit au silence dans les cas où nous souhaitons approuver le signalement mais ne pas réduire l’utilisateur au silence. Il serait bon d’avoir :
C’est délicat, nous ne voulons pas paralyser les gens avec trop de choix, mais je comprends tout à fait qu’à grande échelle cela puisse être un problème.
Je vais vérifier auprès de l’équipe d’expérience utilisateur (XP) de l’entreprise, peut-être existe-t-il une petite personnalisation que nous pouvons apporter à votre forum.
J’ai publié un sujet de spam de test dans mon environnement de développement local, mais il n’est pas entré automatiquement dans la file d’attente de modération.
Le résultat de la détection par IA est bien un message de spam.
Et il remplit également les autres conditions pour entrer dans la file d’attente de modération.
Niveau de confiance de l’utilisateur :
Scanner les messages des utilisateurs avec un niveau de confiance de 1 ou inférieur.
Exclure les messages des utilisateurs avec un niveau de confiance plus élevé.
Type de message :
Messages publics (hors messages privés).
Inclure les messages de réponse et les messages de premier sujet, en fonction d’autres seuils.
Modification du message :
Scanner les messages ayant subi des modifications importantes (par exemple, un changement de plus de 10 caractères).
Imposer un délai de 10 minutes entre les analyses du même message.
Fréquence des messages :
Donner la priorité aux nouveaux utilisateurs qui ont publié un total de moins de 4 messages dans des sujets publics.
Exclure les messages des utilisateurs qui dépassent ce seuil.
Cependant, le résultat final est qu’il n’est pas entré dans la file d’attente de modération.
Où dois-je vérifier pour trouver le problème ?
Bonjour @singi2016cn.
Voulez-vous dire que vous avez vérifié cela avec l’outil de test ?
Vous pouvez accéder à cet outil en suivant ces instructions :
/admin/plugins/discourse-ai/ai-spamOui, l’outil de test a clairement renvoyé que c’était du spam, mais lorsque j’ai publié exactement le même contenu, il n’est pas entré dans la file d’attente de modération.
Qui a posté ceci ? Avez-vous utilisé un nouvel utilisateur que vous avez créé pour des tests ou avez-vous par exemple utilisé un compte avec des permissions de modérateur ?
Utilisateur normal, niveau de confiance trust_level_1, ni administrateur ni modérateur.
Voici l’ensemble d’instructions personnalisées que j’utilise pour la détection de spam. Il est plus détaillé que la version standard, il utilisera donc plus de jetons. Quels ensembles d’instructions client d’autres personnes utilisent-ils pour la détection de spam ?
Vous êtes un système de détection de spam examinant des publications de forum.
Votre tâche consiste à déterminer si une publication est principalement destinée à promouvoir, tromper, manipuler les classements de recherche, distribuer des liens malveillants ou perturber la discussion — plutôt que de participer réellement à la communauté.
Évaluez :
Les indicateurs de spam forts incluent :
Les signaux légitimes incluent :
Si l’intention principale semble promotionnelle, malveillante ou disruptive → spam = vrai.
Si la publication participe de manière significative à la discussion → spam = faux.
En cas de doute mais avec plusieurs signaux d’alerte présents, privilégiez la sécurité de la communauté.
Retournez uniquement du JSON valide :
{“spam”: true ou false, “reason”: “Brève explication (1–2 phrases).”}
N’incluez aucun commentaire supplémentaire.
Il devrait y avoir un rapport sur la page Admin->Plugin->AI->SPAM qui affiche les détails de la boîte de résumé. La boîte de résumé indique le nombre de publications analysées, le spam détecté, ainsi que les faux positifs et négatifs.
Merci d’avance.
Celle-ci vous donne tous les détails
SELECT * FROM ai_spam_logs ORDER BY 1 DESC LIMIT 50