| | | |\n| - | - | - |\n|
| Zusammenfassung | Das Discourse Moderation API Plugin erweitert Ihr Discourse-Forum um automatisierte Moderationsfunktionen. Es nutzt die bewährte Erkennungs-Engine der Moderation API und enthält ein verbessertes Moderations-Dashboard, um die Effizienz von Moderatoren um das 10-fache zu steigern. |\n|
| Repository-Link | https://github.com/moderation-api/discourse-moderation-api |\n|
| Installationsanleitung | So installieren Sie Plugins in Discourse |\n\n\n\n\n\u003cbr\u003e\n\n##
Hervorgehobene Funktionen\n\nDie Moderation API ist eine Full-Stack-Moderationslösung.\n\nAutomatisierte Moderationsaktionen\n* Kommentare und Themen automatisch markieren.\n* Wählen Sie aus über 20 vorgefertigten Modellen für gängige Anwendungsfälle oder erstellen Sie Ihr eigenes.\n* Erkennen von Toxizität, NSFW-Inhalten, PII, Spam, Eigenwerbung, illegalen Aktivitäten und mehr.\n* Legen Sie benutzerdefinierte Schwellenwerte für die automatische Markierung fest.\n \n\nLLM-gestützte Erkennung\n\n * Integrieren Sie Ihre Community-Richtlinien in einen KI-Agenten.\n * Nutzen Sie KI als erste Verteidigungslinie oder als vertrauenswürdigen Moderator, um Kommentare zu markieren.\n\nTraining benutzerdefinierter Modelle\n\n * Entwickeln Sie Ihre eigenen KI-Modelle für höchste Moderationsgenauigkeit.\n * Nutzen Sie Moderationsaktionen als Feedback zum Trainieren und Verfeinern von Modellen.\n * Verbessern Sie kontinuierlich die automatische Markierung durch maschinelles Lernen.\n\nErweiterte Überprüfungswarteschlange\n\n * Nutzen Sie optional die Überprüfungswarteschlange der Moderation API für eine optimierte und moderne Moderationserfahrung.\n * Erstellen Sie mehrere Überprüfungswarteschlangen, die auf verschiedene Sprachen, Kategorien oder bestimmte Zwecke zugeschnitten sind.\n * Entwickeln Sie Moderations-Workflows für die Eskalation von Inhalten.\n * Weisen Sie Moderatoren spezifischen Überprüfungswarteschlangen zur effizienten Verwaltung zu.\n\nDashboard-Analysen\n\n * Überwachen Sie KI-Aktivitäten und -Ergebnisse über das Dashboard der Moderation API.\n * Gewinnen Sie Einblicke in häufige Probleme und identifizieren Sie Verbesserungspotenziale.\n\nNahtlose Integration\n\n * Lässt sich einfach in bestehende Discourse-Workflows und Benutzerrollen integrieren.\n * Wählen Sie zwischen der Discourse-Überprüfungswarteschlange oder der Überprüfungswarteschlange der Moderation API.\n * Nutzt integrierte Moderationsaktionen von Discourse.\n\n—\n\n##
Konfiguration\n\nBefolgen Sie diese Schritte, um das Moderation API Plugin zu konfigurieren:\n\n\nErstellen Sie ein Projekt in der Moderation API\n* Navigieren Sie zu Ihrem Moderation API Dashboard.\n* Erstellen Sie ein neues Projekt und wählen Sie die zu erkennenden Labels aus.\n\n
Aus der GitHub-Repo-Readme:
Sie können das Plugin sofort installieren und unsere kostenlose Stufe oder 30-tägige Testversion nutzen.
Ich konnte keine Informationen über eine kostenlose Stufe auf der Website oder in der API-Dokumentation finden. Was sind die Einschränkungen?
Ist der Pay-as-you-go-Plan auch nur verfügbar, wenn wir das Kontingent eines bezahlten Plans überschreiten?
Die kostenlose Stufe ist für Hobbyprojekte verfügbar. Senden Sie uns gerne eine Nachricht, um die Einrichtung zu veranlassen.
Korrekt, PAYG ist für bezahlte Pläne eine Option, wenn das enthaltene Kontingent überschritten wird.
Ich sehe gerne mehr KI-Moderationstools! Können Sie bitte klarstellen, was dies bietet, was das KI-Triage von Discourse nicht bietet? Vielen Dank!
Ja, natürlich. Das könnte im ursprünglichen Beitrag klarer formuliert werden.
Zuerst möchte ich erwähnen, dass die Moderation API Ihnen Zugang zu einer vollständigen Moderationsplattform verschafft, bei der die Erkennungs-Engine nur ein Teil davon ist. Sie werden im Wesentlichen mit einem Unternehmen zusammenarbeiten, das jahrelange Erfahrung in der Lösung von Content-Moderation hat.
Aber wenn wir uns nur auf die Erkennung/Triage konzentrieren:
-
Bessere Genauigkeit: Sie können aus über 20 vortrainierten Klassifikatoren auswählen, um die häufigsten Anwendungsfälle zu behandeln. Dies erleichtert den Einstieg, und wir verbessern unsere Modelle ständig, sodass Sie sich nicht um die neuesten und besten kümmern müssen.
Sie erhalten normalerweise bessere und robustere Ergebnisse mit einem gut trainierten Klassifikator im Vergleich zu einem Prompt-gesteuerten LLM. -
Kontextbewusstsein: Die Erkennungs-Engine der Moderation API kann auch frühere Nachrichten in einem Thread und die Historie eines Autors berücksichtigen, um eine bessere Analyse zu liefern. Ich denke, das ist eine große Verbesserung gegenüber der integrierten Triage.
-
Spezialisierte LLMs: Ich glaube, Discourse lässt Sie zwischen einigen Modellen wie gpt-4o und Claude wählen, während die Moderation API auch speziell für Content-Moderation trainierte LLMs wie Llama-guard und weitere unterstützt. Unsere LLMs werden auch mit vor konfigurierten Prompts geliefert, um ihre Leistung basierend auf unseren Daten zu optimieren.
-
Eigene Modelle trainieren: Sobald Sie mit der Moderation API verbunden sind, können Sie auch Ihre eigenen Modelle mit Ihren spezifischen Daten trainieren.
-
Compliance: Wir hosten unsere Modelle auf unseren eigenen Servern und können kundenspezifische DPAs für Unternehmen bereitstellen, bei denen Compliance und Regulierung Priorität haben. In einigen Fällen können wir sogar On-Premise-Lösungen anbieten.
-
Kosten: Das Beste daran ist, dass wir bei großen Volumina günstiger sein können und in jedem Fall Festpreise für vorhersehbare Kosten anbieten.
Ich hoffe, das macht es klarer. Die Konfiguration eines Projekts bietet Ihnen so viele Optionen und Flexibilität im Vergleich zum bloßen Schreiben eines Prompts, daher würde ich sagen, es ist einfach eine viel leistungsfähigere und spezialisiertere Lösung.
Beim Installieren des Plugins erhalte ich beim erneuten Erstellen der App diesen Fehler:
Gem::LoadError: kann faraday-2.12.2 nicht aktivieren, bereits aktiviert faraday-2.13.4
… /plugins/discourse-moderation-api/plugin.rb:11:in `activate!’
Vollständige Protokolle: er-js/faker-10.0.0 * [new branch] dependabot/npm_and_yarn/fortawesome - Pastebin.com
Daniel, vielen Dank, dass Sie das Plugin ausprobiert haben.
Ich schaue mir das gerade an. In der Zwischenzeit wäre es etwas einfacher zu helfen, wenn Sie sich an support@moderationapi.com wenden.
Dies sollte nun in der neuesten Version des Plugins behoben sein. Ich glaube, Sie können Ihre App jetzt einfach neu erstellen.


