Priorité/Sévérité :
Moyenne
Plateforme :
Version de Discourse b66fca70d0e3d12ef930398289fac5269cd240c7.
Description :
Discourse fournit un système automatisé de détection de spam. Les actions effectuées par le système lorsqu’un message est détecté comme spam incluent :
- la mise en sourdine du compte de l’auteur du message
- le signalement du message
Le signalement porte les actions automatisées à l’attention du personnel humain pour examen. Étant donné que le système automatisé est sujet aux faux positifs, l’examen humain est essentiel.
Si l’auteur du message signalé le supprime après l’heure du signalement (ce qu’il pourrait se sentir obligé de faire après avoir reçu la notification que son message a été signalé), l’élément d’examen est automatiquement marqué comme résolu. La conclusion utilisée dans la résolution est « ignoré ».
Le compte de l’utilisateur reste en état de sourdine. Le personnel humain ne sera pas au courant de l’action du système automatisé et n’effectuera donc pas l’examen essentiel de l’action de mise en sourdine.
Étapes de reproduction :
- Connectez-vous à un compte avec des privilèges d’administrateur sur un forum Discourse.
- En utilisant le compte administrateur, ajustez les instructions personnalisées sur
/admin/plugins/discourse-ai/ai-spampour garantir qu’une détection de spam puisse être produite sur un message de test (par exemple, en spécifiant dans les instructions que les messages contenant un mot-clé arbitraire unique doivent toujours être considérés comme du spam). - Créez un compte jetable sur le forum.
ⓘ Il est nécessaire d’utiliser un nouveau compte à cette fin car la fonctionnalité de spam IA de Discourse n’analyse que les trois premiers messages créés par chaque utilisateur. - Utilisez le compte jetable pour créer un message qui sera détecté comme spam en raison des instructions personnalisées configurées à l’étape précédente.
- Attendez que le compte jetable reçoive une notification indiquant que le message a été masqué.
- Utilisez le compte jetable pour supprimer le message.
- En utilisant le compte administrateur, accédez à la file d’attente d’examen, avec le filtre « Statut » défini sur « En attente » (le réglage par défaut) :
/review
Il n’y a pas d’élément d’examen en attente pour l’action du système de détection de spam. - En utilisant le compte administrateur, accédez à la page de profil du compte utilisateur jetable.
Le compte de l’utilisateur est définitivement mis en sourdine, sans aucune garantie que le personnel humain ait examiné cette action ayant un impact majeur. Un utilisateur dont le message a fait l’objet d’une détection de spam par faux positif sera injustement exclu de la participation à la communauté du forum.
Contexte supplémentaire :
J’ai reproduit le défaut sur le forum que je gère forum.arduino.cc. En raison de l’exigence d’autorisations administratives, je n’ai pas pu tenter de reproduire le défaut sur try.discourse.org.