Discourse AI - Spam-Erkennung

Und hier ist ein Beispiel dafür, wie dieselben Spammer hier erwischt wurden: https://meta.discourse.org/t/full-list-of-quickbooks-desktop-support-contact-numbers-a-complete-call-center-in-the-usa/380776 (es ist bereits ausgeblendet).

Diese Jungs arbeiten definitiv hart.

1 „Gefällt mir“

Großartige Arbeit an diesem Feature. :raising_hands: So sehe ich KI gerne eingesetzt.

Kurze Frage: Gibt es eine Zeitverzögerung, während der Inhalt gescannt wird, wenn ein neuer TL0-Benutzer eine Antwort oder ein Thema einreicht?

Ich sehe eine kurze Verzögerung im integrierten Tester (Screenshot unten), aber wenn ich von einem Testkonto aus poste, gibt es keine ähnliche Pause. Ist der Live-Scan asynchron nach der Veröffentlichung, wobei der Beitrag nur ausgeblendet wird, wenn er gegen eine Regel verstößt? (Kontext: Ich verwende die OpenAI ChatGPT 5 API.)

Was es wert ist, AI > Spam & Stats erhöht sich wie erwartet mit dem Testkonto, sodass der Beitrag gescannt WIRD; er führt nur nicht zur gleichen Verzögerung wie die Test-Schaltfläche.

image

Danke.

Das funktioniert ziemlich gut, aber was passiert, wenn Dutzende von Themen/Benutzern markiert werden? Ich sehe keine Möglichkeit, diese Benutzer/Beiträge in großen Mengen zu sperren/löschen.

Vielen Dank für den detaillierten Thread. Wir haben die Discourse AI Spam-Erkennung auf unserer Instanz aktiviert, und eines der Dinge, die wir sehen, ist die Standardeinstellung zum automatischen Stummschalten, wenn der erste Beitrag eines Kontos markiert wird.

Ich verstehe, dass dies dazu dient, Einmal-Spammer stummzuschalten. Dies führt jedoch zu Problemen, bei denen das Genehmigen/Akzeptieren einer Markierung dazu führt, dass der Benutzer stummgeschaltet bleibt, wenn wir die Markierung genehmigen, den Benutzer aber nicht stummschalten möchten. Es wäre gut, Folgendes zu haben:

  1. eine Schaltfläche „Zustimmen und stummgeschaltet lassen“ und
  2. eine separate Schaltfläche „Zustimmen und Stummschaltung aufheben“.
2 „Gefällt mir“

Das ist eine knifflige Angelegenheit, wir wollen die Leute nicht mit zu vielen Optionen lähmen, aber ich verstehe vollkommen, dass dies bei einer größeren Anzahl ein Problem sein kann.

Ich werde mich mal beim Enterprise-XP-Team erkundigen, vielleicht gibt es eine kleine Anpassung, die wir für Ihr Forum vornehmen können.

1 „Gefällt mir“

Ich habe in meiner lokalen Entwicklungsumgebung einen Test-Spam-Beitrag veröffentlicht, aber er ist nicht automatisch in die Warteschlange zur Überprüfung gelangt.

Das KI-Ergebnis stuft ihn tatsächlich als Spam-Beitrag ein.

Außerdem erfüllt er die anderen Kriterien für das Eintreten in die Warteschlange zur Überprüfung:

  1. Benutzervertrauensstufe:

    • Überprüft Beiträge von Benutzern mit einer Vertrauensstufe von 1 oder niedriger.

    • Schließt Beiträge von Benutzern mit einer höheren Vertrauensstufe aus.

  2. Beitragsart:

    • Öffentliche Beiträge (ausgenommen private Nachrichten).

    • Schließt Antwortbeiträge und den ersten Themadbeitrag gemäß anderen Schwellenwerten ein.

  3. Beitrag bearbeiten:

    • Überprüft Beiträge mit wesentlichen Bearbeitungen (z. B. Änderungen von mehr als 10 Zeichen).

    • Erzwingt eine 10-minütige Verzögerung zwischen Überprüfungen desselben Beitrags.

  4. Beitragsfrequenz:

    • Priorisiert Fälle, in denen neue Benutzer insgesamt weniger als 4 Beiträge in öffentlichen Themen veröffentlicht haben.

    • Schließt Beiträge von Benutzern aus, die diesen Schwellenwert überschreiten.

Dennoch ist das Endergebnis, dass er nicht in die Warteschlange zur Überprüfung aufgenommen wurde.

Wo sollte ich nachsehen, um das Problem zu finden?

Hallo @singi2016cn.

Meinten Sie, dass Sie dies mit dem Testwerkzeug überprüft haben?

[quote=“sam, post:1, topic:343541”]## Testen des Spam-Scanner-Verhaltens
Sie können Spam-Erkennungsregeln direkt auf der Konfigurationsseite testen.

  • Fügen Sie eine Beitrags-URL oder -ID in das Testfeld ein.
  • Überprüfen Sie das Klassifizierungsergebnis (z. B. „SPAM“ oder „KEIN SPAM“) und analysieren Sie die Protokolle, um die Begründung zu verstehen.
  • Nicht gespeicherte Änderungen werden beim Testen angewendet, sodass Experimente ohne Risiko möglich sind.[/quote]

Sie können auf dieses Werkzeug zugreifen, indem Sie dieser Anleitung folgen:

  1. Melden Sie sich mit einem Konto auf Ihrem Forum an, das Administratorrechte besitzt.
  2. Navigieren Sie auf Ihrem Forum zu dieser Seite: /admin/plugins/discourse-ai/ai-spam
  3. Klicken Sie auf der Seite auf die Schaltfläche „Testen…“.
    Das Dialogfeld „Spamerkennung testen“ wird geöffnet.
  4. Geben Sie die URL oder Beitrags-ID Ihres Test-Spam-Beitrags in das Feld „Beitrags-URL oder ID“ im Dialogfeld ein.
  5. Klicken Sie auf die Schaltfläche „Test ausführen“.
2 „Gefällt mir“

Ja, das Testtool gab eindeutig Spam zurück, aber als ich denselben Beitrag gepostet habe, gelangte er nicht in die Warteschlange zur Überprüfung.

Wer hat das gepostet? Haben Sie einen neuen Benutzer verwendet, den Sie zum Testen erstellt haben, oder haben Sie zum Beispiel ein Konto mit Moderatorberechtigungen verwendet?

Normaler Benutzer, Vertrauensstufe 1, weder Administrator noch Moderator.