Konto ohne Prüfung stummgeschaltet, wenn Benutzer Spam-markierten Beitrag löscht

Fehler
, ,
1

Priorität/Schweregrad:

Mittel

Plattform:

Discourse-Version b66fca70d0e3d12ef930398289fac5269cd240c7.

Beschreibung:

Discourse bietet ein automatisiertes Spam-Erkennungssystem. Die Aktionen, die das System ausführt, wenn ein Beitrag als Spam erkannt wird, umfassen:

  • Stummschalten des Kontos des Beitragsautors
  • Markieren des Beitrags

Die Markierung lenkt die Aufmerksamkeit des menschlichen Personals auf die automatisierten Aktionen zur Überprüfung. Da das automatisierte System anfällig für Fehlalarme ist, ist eine menschliche Überprüfung unerlässlich.

Wenn der Autor des markierten Beitrags diesen nach dem Zeitpunkt der Markierung löscht (was er sich nach Erhalt der Benachrichtigung, dass sein Beitrag markiert wurde, verpflichtet fühlen könnte), wird der Prüfpunkt automatisch als gelöst markiert. Die bei der Lösung verwendete Schlussfolgerung lautet „ignoriert“.

:bug: Das Konto des Benutzers bleibt stummgeschaltet. Das menschliche Personal wird die Aktion des automatisierten Systems nicht bemerken und daher die wesentliche Überprüfung der Stummschaltaktion nicht durchführen.

Reproduzierbare Schritte:

  1. Melden Sie sich mit einem Konto mit Administratorrechten auf einem Discourse-Forum an.
  2. Passen Sie mit dem Administratorkonto die benutzerdefinierten Anweisungen unter /admin/plugins/discourse-ai/ai-spam an, um sicherzustellen, dass eine Spam-Erkennung für einen Testbeitrag erzeugt werden kann (z. B. indem in den Anweisungen festgelegt wird, dass Beiträge, die ein einzigartiges willkürliches Schlüsselwort enthalten, immer als Spam betrachtet werden sollten).
  3. Erstellen Sie ein Wegwerfkonto im Forum.
    ⓘ Es ist notwendig, ein neues Konto für diesen Zweck zu verwenden, da die Discourse AI Spam-Funktion nur die ersten drei Beiträge scannt, die von jedem Benutzer erstellt wurden.
  4. Verwenden Sie das Wegwerfkonto, um einen Beitrag zu erstellen, der aufgrund der zuvor konfigurierten benutzerdefinierten Anweisungen als Spam erkannt wird.
  5. Warten Sie, bis das Wegwerfkonto eine Benachrichtigung erhält, dass der Beitrag ausgeblendet wurde.
  6. Verwenden Sie das Wegwerfkonto, um den Beitrag zu löschen.
  7. Navigieren Sie mit dem Administratorkonto zur Prüfwarteschlange, wobei der Filter „Status“ auf „Ausstehend“ (Standardeinstellung) eingestellt ist: /review
    :bug: Es gibt keinen ausstehenden Prüfpunkt für die Aktion des Spam-Detektorsystems.
  8. Navigieren Sie mit dem Administratorkonto zur Profilseite des Wegwerfbenutzerkontos.

:bug: Das Konto des Benutzers ist dauerhaft stummgeschaltet, ohne jegliche Garantie, dass das menschliche Personal diese weitreichende Maßnahme überprüft hat. Ein Benutzer, dessen Beitrag von einer fehlerhaften Spam-Erkennung betroffen war, wird unfair von der Teilnahme an der Forum-Community ausgeschlossen.

Zusätzlicher Kontext:

Ich habe den Fehler auf dem von mir verwalteten Forum forum.arduino.cc reproduziert. Aufgrund der Anforderung nach administrativen Berechtigungen konnte ich nicht versuchen, den Fehler auf try.discourse.org zu reproduzieren.