Gouvernance de l'IA + Automatisation : Orchestration des scripts de triage IA indépendants

J’ai également rencontré le problème de ne pas pouvoir orchestrer l’exécution d’un script d’Automation avec le détecteur de spam.

La bonne nouvelle est que Discourse a maintenant créé un plugin central « Workflows » qui facilite les mêmes types d’applications que le plugin « Automation », mais d’une manière bien plus puissante et flexible :

L’orchestration demandée ici peut être réalisée si vous utilisez le plugin Workflows pour implémenter les systèmes qui auraient auparavant été mis en place via le plugin Automation.


Le but de mon Automation était de signaler les publications ayant certaines caractéristiques qui pourraient indiquer du spam, mais pas de manière définitive. Le problème que j’ai rencontré est que ces mêmes caractéristiques sont souvent présentes dans les publications spam signalées par le système de détection de spam Discourse AI. Cela a entraîné une multiplication des signalements redondants par l’Automation, créant un travail supplémentaire inutile pour les modérateurs.


La solution de contournement consistant à « tout mélanger dans une seule Automation » présentée ci-dessus n’était pas applicable à mon système, car j’ai délibérément séparé les deux systèmes :

  • Le rôle du système de détection de spam est de détecter les publications ayant une forte probabilité d’être du spam.
  • Le rôle de mon système complémentaire est d’attirer l’attention des modérateurs sur les publications ayant une certaine probabilité d’être du spam.

Comme le détecteur de spam Discourse AI a une implémentation spéciale dans le framework Discourse (par opposition à un fonctionnement purement sur le framework Discourse AI fourni à l’administrateur du forum), je n’avais aucun intérêt à essayer de le remplacer par une Automation.

De plus, il n’était pas approprié de fusionner mon système complémentaire dans le détecteur de spam (en ajoutant des instructions à l’invite). Le comportement du système de spam, qui consiste à masquer immédiatement la publication et à faire taire l’auteur, est approprié tant qu’il est configuré pour fonctionner avec un haut degré de précision. À l’inverse, mon système complémentaire est intrinsèquement sujet aux faux positifs, et ses signalements ne doivent donc pas affecter l’utilisateur concerné avant une revue humaine.


La solution que j’ai pu obtenir après avoir remplacé l’Automation par un Workflow :

  1. Déclencheur « Publication créée ».
  2. Étape « Attendre » pour laisser le temps au système de détection de spam de s’exécuter.
  3. Étape « Data Explorer » pour obtenir les données de la publication :
  4. Étape « Filtre » pour déterminer s’il faut continuer l’exécution du workflow, en fonction des données de la publication :