||||
-|-|
| Zusammenfassung | Google Perspective API ist das offizielle Google Perspective API-Plugin für Discourse
| Repository-Link | https://github.com/discourse/discourse-perspective-api
| Installationsanleitung | So installieren Sie Plugins in Discourse
Funktionen
Was ist die Perspective API?
Laut der offiziellen Website ist „Perspective eine API, die es einfacher macht, bessere Gespräche zu hosten. Die API nutzt Machine-Learning-Modelle, um die wahrgenommene Auswirkung eines Kommentars auf ein Gespräch zu bewerten. Dieses Modell wurde trainiert, indem Personen gebeten wurden, Internetkommentare auf einer Skala von sehr toxisch bis sehr gesunder Beitrag zu bewerten. Toxisch ist definiert als … eine unhöfliche, respektlose oder unvernünftige Nachricht, die wahrscheinlich dazu führt, dass Sie eine Diskussion verlassen."
Was kann das discourse-perspective-api-Plugin tun?
- Benutzer auffordern, vor dem Absenden sicherzustellen, ob sie einen potenziell toxischen Beitrag wirklich absenden möchten.
- Toxische Beiträge automatisch für Moderatoren und Administratoren zur Überprüfung markieren.
- Optional auch private Kategorien und PMs auf toxische Inhalte scannen.
Konfiguration
Woher bekomme ich einen Perspective API-Schlüssel?
Folgen Sie diesen Anweisungen, um ein Google Cloud-Konto zu erstellen und Zugriff auf einen API-Schlüssel zu erhalten.
Die API kann kostenlos genutzt werden, hier sind die API-Referenzdokumente.
Schritt-für-Schritt-Anleitung zu den Site-Einstellungen
(Admin → Geben Sie ‘perspective’ im Filtertextfeld ein)
Die API ist derzeit nur für die englische Sprache verfügbar.
Die Standard-Schwellenwerte sind bewusst relativ hoch gesetzt, aber diese Einstellungen bieten einige Anpassungsmöglichkeiten, um feinjustieren zu können, wie dieses Plugin funktioniert. Spielen Sie mit dem Live-Demo auf den offiziellen Dokumenten, die oben verlinkt sind, um ein Gefühl dafür zu bekommen, wie sich die Schwellenwerte verhalten.
-
perspective_enabled:
Das Plugin zum Filtern potenziell toxischer Beiträge aktivieren. -
perspective_toxicity_model:
Toxizitätsmodell für Googles Perspective API auswählen. Lesen Sie mehr darüber, wie diese Modelle entwickelt wurden, indem Sie die API-Referenzdokumente lesen.-
standard
klassifiziert unhöfliche, respektlose oder unvernünftige Kommentare, die wahrscheinlich dazu führen, dass Menschen eine Diskussion verlassen. Es ist einfacher, den Schwellenwert im Standardmodell zu überschreiten, wenn Schimpfwörter und Beleidigungen auf freundliche Weise verwendet werden, und Beiträge werden leicht markiert. Wenn Sie einen hohen Schwellenwert von 0,9 wählen, markiert das Standardmodell weniger Beiträge und führt zu weniger falschen Aktionen. -
schwere Toxizität (experimentell)
Dieses Modell verwendet denselben Algorithmus wie das Standardmodell, ist aber darauf trainiert, Beispiele zu erkennen, die als ‘sehr toxisch’ eingestuft wurden. Dadurch ist es viel weniger empfindlich gegenüber Kommentaren, die positive Verwendungen von Schimpfwörtern enthalten. Beiträge werden nur markiert, wenn extreme Fälle von Toxizität erkannt werden, und der Schwellenwert für dieses Modell kann bis zu einem vernünftigen Wert von 0,7 gesenkt werden.
Zum Beispiel würde ein Beitrag mit
"I f*****g love you man"unter dem Standard-Modell (unter Verwendung der Standard-Schwellenwerte) markiert werden, aber nicht mit dem schwere Toxizität-Modell. -
-
perspective_notify_posting_min_toxicity_enable:
Die Überprüfung potenziell toxischer Inhalte aktivieren, während ein Benutzer versucht, einen Beitrag abzusenden, und eine Benachrichtigung im Composer anzeigen, wenn der Benutzer etwas Toxisches schreibt.- perspective_notify_posting_min_toxicity:
Wenn die API einen Wert zurückgibt, der höher ist als dieser Schwellenwert, werden wir den Benutzer fragen, ob er sicher ist, dass er potenziell toxische Inhalte veröffentlichen möchte. Das Vertrauensniveau der Beitrags-Toxizität zwischen 0 und 1, das zur Überprüfung der Toxizität verwendet wird, während ein Benutzer einen Beitrag verfasst, wobei ein Wert von 1 extrem toxisch bedeutet. Ein Wert über 0,9 sollte nur hochtoxische Beiträge markieren, abhängig vom verwendeten Modell. Da der Benutzer vor dem Posten benachrichtigt wird, können wir hier einen etwas niedrigeren Schwellenwert wie 0,85 verwenden, um Benutzer im Voraus zu warnen.
- perspective_notify_posting_min_toxicity:
-
perspective_flag_post_min_toxicity_enable:
Mögliche toxische Beiträge, die bereits gesendet wurden, markieren und Nachrichten senden, um Moderatoren über gesendete Beiträge zu benachrichtigen. Administratoren/Moderatoren werden über die markierten Beiträge informiert.- perspective_flag_post_min_toxicity:
Wenn die API einen Wert zurückgibt, der höher ist als dieser Schwellenwert, markieren wir den Beitrag zur Überprüfung für Administratoren/Moderatoren. Das Vertrauensniveau der Beitrags-Toxizität zwischen 0 und 1, das zur Überprüfung der Toxizität verwendet wird, nachdem ein Benutzer einen Beitrag veröffentlicht hat, wobei ein Wert von 1 extrem toxisch bedeutet. Ein Wert über 0,9 sollte nur hochtoxische Beiträge markieren, abhängig vom verwendeten Modell.
- perspective_flag_post_min_toxicity:
-
perspective_google_api_key:
API-Schlüssel für die Perspective API, den Sie nach Abschluss des oben genannten Registrierungsprozesses erhalten haben. -
perspective_check_private_message:
Private Nachrichten auf Toxizität überprüfen und markieren.
Hinweis: Der Inhalt der PM wird an Moderatoren/Administratoren gesendet.
Gilt auch für den Backfill-Modus. -
perspective_check_secured_categories:
Zusätzlich private Kategorien auf toxische Inhalte überprüfen, indem Sie diese Einstellung aktivieren. -
perspective_backfill_posts:
Toxizität für bestehende Beiträge abfragen und die Ergebnisse in benutzerdefinierten Feldern des Beitrags speichern.
Die Aktivierung dieses Modus deaktiviert die Online-Überprüfung für Beiträge. -
perspective_historical_inspection_period:
Die Periode in Tagen, um eine neue Abfrageiteration zu starten, nachdem die letzte Iteration abgeschlossen ist. Wird nur verwendet, wennperspective_backfill_postsaktiviert ist.
Screenshots
Was ein Benutzer sieht, wenn er versucht, einen toxischen Beitrag abzusenden:
Was Administratoren/Moderatoren sehen, wenn ein toxischer Beitrag gesendet wird:
ÄNDERUNGSVERZEICHNIS
TODO
Großer Dank an @fantasticfears für die Erstellung dieses Plugins!