Gobernanza de IA + Automatización: Orquestando scripts de triage de IA independientes

También me encontré con el problema de no poder orquestar la ejecución de un script de automatización junto con el detector de spam.

La gran noticia es que Discourse ha creado ahora un plugin central llamado “Workflows” (Flujos de trabajo) que facilita el mismo tipo de aplicaciones que el plugin “Automation” (Automatización), pero de una manera mucho más potente y flexible:

La orquestación solicitada aquí se puede lograr si utilizas el plugin Workflows para implementar los sistemas que anteriormente se habrían implementado mediante el plugin Automation.


El propósito de mi automatización era marcar publicaciones con ciertas características que podrían indicar spam, pero no de forma definitiva. El problema que encontré es que estas mismas características suelen estar presentes en las publicaciones marcadas como spam por el sistema de detección de spam de Discourse AI. Esto provocaba que la automatización generara frecuentemente marcas redundantes, creando trabajo adicional innecesario para los moderadores.


La solución alternativa de “mezclar todo en una única automatización” presentada anteriormente no era aplicable a mi sistema, porque separé intencionadamente los dos sistemas:

  • La función del sistema de detección de spam es detectar publicaciones con una alta probabilidad de ser spam.
  • La función de mi sistema complementario es llamar la atención de los moderadores sobre publicaciones que tienen cierta posibilidad de ser spam.

Dado que el detector de spam de Discourse AI tiene una implementación especial en el marco de Discourse (a diferencia de operar puramente en el marco de Discourse AI proporcionado al administrador del foro), no tenía ningún interés en intentar reemplazarlo por una automatización.

Además, no era apropiado fusionar mi sistema complementario con el detector de spam (añadiendo instrucciones al prompt). El comportamiento del sistema de spam, que oculta inmediatamente la publicación y silencia al autor, es adecuado siempre que se configure para operar con un alto grado de precisión. Por el contrario, mi sistema complementario es inherentemente propenso a falsos positivos, por lo que sus marcas no deben afectar al usuario afectado antes de una revisión humana.


La solución que pude lograr después de reemplazar la automatización por un flujo de trabajo:

  1. Disparador “Publicación creada”.
  2. Paso “Esperar” para dar tiempo a que el sistema de detección de spam se ejecute.
  3. Paso “Data Explorer” (Explorador de datos) para obtener los datos de la publicación:
  4. Paso “Filtro” para determinar si se debe continuar con la ejecución del flujo de trabajo, basándose en los datos de la publicación: