Bewährte Praktiken für KI-Antispam plus KI-Post-Triage, die zusammenarbeiten?

Unterstützung
1

Ich habe fantastische Erfolge mit der Discourse AI Spam-Erkennung erzielt – trotz meiner anfänglichen Bedenken war sie äußerst effektiv, um meine selbst gehostete Discourse-Instanz spammfrei zu halten.

Da die von mir verwaltete Discourse-Instanz an eine Wettervorhersageseite angeschlossen ist, gibt es gelegentlich Diskussionen über politisierte Themen wie den Klimawandel, die Politik der aktuellen Regierung in Bezug auf NOAA und NASA und ähnliche Punkte. Da wir ein sehr kleines Moderationsteam haben, das nicht ständig verfügbar sein kann, habe ich eine Automatisierung eingerichtet, die eine “Post-Triage”-Persona + Prompt verwendet, um alle neuen und bearbeiteten Beiträge auf “Kulturkampf”-Themen zu überprüfen und sie zur Aufmerksamkeit zu markieren. (Ich habe die Triage-Automatisierung so eingestellt, dass sie nur markiert, nicht versteckt – die Idee ist, kontroverse Themen schneller von menschlichen Augen sehen zu lassen, um sicherzustellen, dass die Konversation zivilisiert bleibt.)

Das alles funktioniert hervorragend. Manchmal markieren jedoch sowohl die Antispam-KI als auch die Triage-KI denselben Beitrag. Ich habe meinen Triage-Prompt etwas angepasst, um dies zu umgehen, bin aber vorsichtig, die Effektivität der Triage zu beeinträchtigen, indem ich zu viel am Prompt herumschraube.

Haben andere Leute das Problem, dass Beiträge sowohl von der Antispam- als auch von einer Forum-Triage-Automatisierung doppelt markiert werden? Was ist hier die richtige Lösung? Sollte ich keine Triage-Automatisierung mit Antispam verwenden, oder übersehe ich eine Einstellung, um zu verhindern, dass die Automatisierung Beiträge mit bereits gesetzten Markierungen markiert, oder so etwas?

Ich möchte noch einmal betonen, dass alles großartig funktioniert und beide Systeme sehr effektiv sind! Ich möchte nur sehen, ob es eine Möglichkeit gibt, zu vermeiden, dass Dinge doppelt markiert werden und die beiden verschiedenen KI-Aufgaben sich nicht gegenseitig behindern. Ratschläge sind willkommen!

2

Wenn eine doppelte Markierung ein Problem verursacht, dann scheint es ein Fehler in einem oder beiden Modulen zu sein. Sie sollten wahrscheinlich einfach keine Beiträge auswerten, die bereits markiert sind (und dann vielleicht noch einmal prüfen, bevor sie versuchen, eine Markierung zu setzen).

3

hmm, das fühlt sich definitiv nach einer „Sequenzierungssache“ an. Ich frage mich, ob Sie einfach zu einer einzigen Persona wechseln, die sowohl Spam als auch Triage behandelt? Oder eine Triage für tl0-1 für Spam+Triage und eine andere für tl2, die nur Triage durchführt?

2 „Gefällt mir“
4

Ja, gute Ideen – obwohl dies bedeuten würde, die integrierte Antispam-Funktion zu deaktivieren und sich stattdessen auf Automatisierung zu verlassen, es sei denn, ich übersehe etwas (sehr gut möglich!).

Lassen Sie mich darüber nachdenken. Das könnte tatsächlich der beste Weg sein.

2 „Gefällt mir“
5

This topic was automatically closed 30 days after the last reply. New replies are no longer allowed.