Beiträge und Konto werden nicht immer wiederhergestellt, wenn der Flag von Discourse AI Spam-Erkennung abgelehnt wird

Fehler
,
1

Priorität/Schweregrad:

Hoch

Plattform

Betriebssystem

Windows 11

Browser

Google Chrome 131.0.6778.265

Discourse

c1a46995a7b87982557eeba297d4460169c77bba

Discourse AI

61758ff8a6ea98e4502d0bdc9a8abe635aa35666

Beschreibung:

Wenn ein Beitrag vom Spam-Erkennungsfeature des Discourse AI Plugins als Spam erkannt wird, werden folgende Aktionen ausgeführt:

  • Beitrag wird ausgeblendet
  • Konto des Beitragsautors wird stummgeschaltet
  • Ein Flag wird gesetzt

Das Forum-Personal überprüft dann das Flag. Falls die Spam-Erkennung ein Fehlalarm war, klickt das Personalmitglied auf die Schaltfläche „Nein, Beitrag wiederherstellen“ in der Flag-Überprüfungsoberfläche.

:bug: Der Beitrag und das Konto werden nicht immer wiederhergestellt, wenn der Flag-Prüfer auf die Schaltfläche „Nein, Beitrag wiederherstellen“ klickt. Der Beitrag bleibt ausgeblendet und das Konto des Beitragsautors bleibt zu Unrecht stummgeschaltet.

Reproduzierbare Schritte:

Ich weiß nicht, wie ich den Fehler zuverlässig reproduzieren kann, aber dies sind die Schritte, die ausgeführt werden, wenn der Fehler auftritt:

  1. Warten Sie, bis ein Beitrag vom Discourse AI Spam-Erkennungssystem als Spam markiert wird.
  2. Klicken Sie auf die Schaltfläche „Nein, Beitrag wiederherstellen“ in der Flag-Überprüfungsoberfläche.
  3. Überprüfen Sie den markierten Beitrag.
    :bug: Der Beitrag ist möglicherweise immer noch ausgeblendet.
  4. Überprüfen Sie die Admin-Seite des Benutzers, der den markierten Beitrag erstellt hat.
    :bug: Das Konto des Benutzers ist möglicherweise immer noch stummgeschaltet.

Zusätzlicher Kontext

Es scheint unter den folgenden Bedingungen zu passieren:

  • Der markierte Beitrag ist nicht der erste Beitrag des Themas.
  • Der Autor des markierten Beitrags hat das Thema erstellt.

Ich stelle fest, dass, wenn ich die Benutzernotizen der Benutzer überprüfe, deren Konten nach der Ablehnung des Flags aufgrund des Fehlers stummgeschaltet blieben, es zwei identische Notizen mit diesem Formular gibt:

system 19m

@discourse_ai_spam hat dieses Konto bis zum 13. Januar 3025 stummgeschaltet. Grund: Benutzer automatisch von Discourse AI stummgeschaltet

Mehrere Minuten trennen die Zeitstempel der beiden Notizen. Beide Notizen sind mit demselben Beitrag verbunden, für den nur ein Flag gesetzt wurde.

Wenn ich die Benutzernotizen von Benutzern überprüfe, deren Beiträge markiert wurden, aber das Konto nach der Ablehnung des Flags korrekt wiederhergestellt wurde, sehe ich nur eine dieser Notizen.

Falls es für die Untersuchung nützlich sein könnte, erwähne ich, dass dies auf dem Forum unter Folgendem geschieht:

4 „Gefällt mir“
4

Ich habe hier eine Korrektur vorgenommen:

Obwohl es weniger magisch und weniger hart gegen Spammer ist als der alte Mechanismus, denke ich, dass die zusätzliche Sicherheit und Klarheit es wert ist.

Nebenbei bemerkte ich ein Muster von Fehlalarmen bei Arduino und werde die benutzerdefinierten Anweisungen ein wenig anpassen, um dies zu korrigieren (bereit zur Bereitstellung).

3 „Gefällt mir“
5

Vielen Dank für die Fehlerbehebung und die Verbesserung unserer Anweisungen zur KI-Spamerkennung!

Wie üblich eine bemerkenswert schnelle Reaktion vom Discourse-Team!

Mit freundlichen Grüßen, Per

4 „Gefällt mir“
6

Dieses Thema wurde nach 4 Tagen automatisch geschlossen. Neue Antworten sind nicht mehr möglich.

8

Leider musste ich feststellen, dass das Problem weiterhin besteht, auch nachdem unser Forum auf eine Version aktualisiert wurde, die die voraussichtliche Korrektur enthält.

Ich habe festgestellt, dass in der letzten Woche drei Fälle aufgetreten sind, in denen der markierte Beitrag ausgeblendet blieb und das Konto des Benutzers stummgeschaltet blieb, obwohl wir auf die Schaltfläche „Nein, Beitrag wiederherstellen“ geklickt hatten:

Dies trat auf mit:

  • Discourse AI Plugin Version 4784e7fe43ff25c44df986a56f70c0c1c017a51a
  • Discourse Version d3a7b996992e721dd9caab60095414eaf1fc832f
2 „Gefällt mir“
9

Danke Pert, ich werde diese Woche nachsehen, was das verursacht.

10

Hier gibt es interessante Geschichten zu untersuchen.

Im Fall von:

Ich sehe, dass der Benutzer mehrmals von der KI stummgeschaltet wurde.

Irgendwie sahen wir die Sequenz von:

  • System markiert
  • Markierung abgelehnt
  • Benutzer bearbeitet
  • Spam-System hat es wieder aufgegriffen
  • Keine Markierung wurde erstellt, da es sich um eine „Duplikat“ handeln würde, sodass das System transparent nichts unternahm.

Ich werde mich mit dem Team für das Mitarbeitererlebnis unterhalten, um zu sehen, wie wir dies richtig lösen können.

Wir müssen der KI erlauben, Dinge erneut zu markieren, da Spammer sehr hinterhältig sein können. Nur weil es am Anfang gut war, heißt das nicht, dass es für immer gut ist.

12

Pert,

Das sieht für mich nach einem ziemlich komplexen Sonderfall aus. Geben Sie uns etwas Zeit zum Debuggen und zur Suche nach einer robusten Lösung für das Problem.

Doppelte Kennzeichnung ist eine sehr komplizierte Sache.

16

Danke Sam.

Absolut. Es macht mir nichts aus, zusätzliche Markierungen für einen Beitrag zu erhalten.

Ja, es ist großartig, dass das Spam-System Beiträge nach einer Bearbeitung neu bewertet!

Wir hatten einen weiteren Vorfall des Problems:

Wenn es nützlich ist, zusätzliche Beispiele für das Problem zu haben, lassen Sie es mich einfach wissen, und ich werde sie hier weiterhin bereitstellen, sobald sie entdeckt werden (ich führe regelmäßig eine Data Explorer-Abfrage durch, um nach versteckten Beiträgen und stummgeschalteten Benutzern zu suchen, die sich aus dem Fehler ergeben). Andernfalls werde ich mich zurückhalten, da ich hier keinen “Lärm” erzeugen möchte, wenn sie nicht benötigt werden.

1 „Gefällt mir“
17

Ich denke, wir sind gut aufgestellt, wir haben jetzt eine gute Reproduzierbarkeit, @martin hat das auf seiner Liste und wird es sich nächste Woche ansehen.

Mir fallen „naive“ Hatchet-artige Korrekturen ein, aber ich ziehe es vor, herauszufinden, ob wir hier etwas saubereres tun können. (Z. B. Wenn das Flag behandelt wurde, dann das Flag manuell vom Beitrag trennen, damit wir Platz für ein weiteres Flag haben)

Vielen Dank für die Meldung.

24

Hallo Pert,

ich bin Martin, mir wurde aufgetragen, mich um dieses Problem zu kümmern. Ich habe jetzt das Problem behoben, bei dem die KI versucht hätte, einen bereits bearbeiteten Spam-Beitrag erneut zu markieren, fehlschlägt und dann trotzdem den Benutzer stummgeschaltet und den Beitrag ausgeblendet hätte. Ich habe die Korrektur auf Ihrer Website bereitgestellt.

Das tiefere Bedürfnis der KI, Dinge als Spam zu markieren, besteht weiterhin, aber zumindest werden Sie dieses verwirrende Verhalten, bei dem Benutzer stummgeschaltet und Beiträge ausgeblendet werden, nicht mehr sehen.

Bitte lassen Sie mich wissen, wenn Sie weitere Probleme haben.

3 „Gefällt mir“
25

Danke Martin!

1 „Gefällt mir“
26

Dieses Thema wurde nach 11 Tagen automatisch geschlossen. Neue Antworten sind nicht mehr möglich.