KI + Automatisierungs-Governance: Koordination unabhängiger KI-Triage-Skripte

Ich bin auch auf das Problem gestoßen, dass ich die Ausführung eines Automatisierungsskripts mit dem Spam-Erkennungssystem nicht orchestrieren konnte. Der angebotene Workaround

Die gute Nachricht ist, dass Discourse nun ein „Workflows“-Kern-Plugin erstellt hat, das dieselben Arten von Anwendungen wie das „Automation“-Plugin unterstützt, jedoch auf eine deutlich leistungsfähigere und flexiblere Weise:

Die hier angeforderte Orchestrierung kann erreicht werden, wenn du das Workflows-Plugin verwendest, um die Systeme zu implementieren, die zuvor über das Automation-Plugin realisiert wurden.


Der Zweck meiner Automatisierung bestand darin, Beiträge mit bestimmten Merkmalen, die auf Spam hindeuten könnten, aber nicht eindeutig waren, zu markieren. Das Problem, auf das ich stieß, war, dass diese gleichen Merkmale oft auch in den vom Discourse AI Spam-Erkennungssystem markierten Spam-Beiträgen vorhanden waren. Dies führte dazu, dass die Automatisierung häufig redundante Markierungen erzeugte, was für die Moderatoren unnötige zusätzliche Arbeit bedeutete.


Der oben präsentierte Workaround „Alles in eine einzige Automatisierung zu pressen“ war für mein System nicht anwendbar, da ich die beiden Systeme bewusst getrennt hatte:

  • Die Aufgabe des Spam-Erkennungssystems ist es, Beiträge mit einer hohen Wahrscheinlichkeit, Spam zu sein, zu erkennen.
  • Die Aufgabe meines ergänzenden Systems ist es, Beiträge, die möglicherweise Spam sein könnten, der Aufmerksamkeit der Moderatoren zu zuführen.

Da der Discourse AI Spam-Erkennung eine spezielle Implementierung im Discourse-Framework hat (im Gegensatz dazu, dass er rein auf dem dem Forenadministrator bereitgestellten Discourse AI-Framework basiert), hatte ich kein Interesse daran, ihn durch eine Automatisierung zu ersetzen.

Außerdem war es nicht angebracht, mein ergänzendes System in das Spam-Erkennungssystem zu integrieren (indem ich Anweisungen zum Prompt hinzufügte). Das Verhalten des Spam-Systems, den Beitrag sofort zu verstecken und den Autor zum Schweigen zu bringen, ist angemessen, solange es so konfiguriert ist, dass es mit einer hohen Genauigkeit arbeitet. Im Gegensatz dazu ist mein ergänzendes System anfällig für falsch-positive Ergebnisse, und daher dürfen seine Markierungen den betroffenen Benutzer nicht vor einer menschlichen Überprüfung beeinflussen.


Die Lösung, die ich erreichen konnte, nachdem ich die Automatisierung durch einen Workflow ersetzt habe:

  1. „Beitrag erstellt“-Auslöser.
  2. „Warten“-Schritt, um Zeit für die Ausführung des Spam-Erkennungssystems zu geben.
  3. „Data Explorer“-Schritt, um Beitragsdaten zu erhalten:
  4. „Filter“-Schritt, um basierend auf den Beitragsdaten zu bestimmen, ob der Workflow fortgesetzt werden soll: