Was kommt als nächstes bei der NSFW-Erkennung in Discourse AI?

[Saif (Saif Murtaza)]

Wenn Sie unsere vorherige Ankündigung gesehen haben, wissen Sie, dass wir auf LLM-basierte Lösungen umsteigen, da diese eine weitaus bessere Erfahrung bieten. Daher werden wir bald das NSFW-Modul zugunsten von Discourse AI Post Classifier - Automation rules außer Betrieb nehmen (Siehe Update unten)

Warum tun wir das?

Aus den gleichen Gründen…

@Saif

Die vorherige Verwendung des Toxicity-Moduls bedeutete…

• Sie waren an ein einziges vordefiniertes Modell gebunden
• Keine Anpassung für die spezifischen Bedürfnisse Ihrer Community
• Verwirrende Schwellenwertmetriken
• Unterdurchschnittliche Leistung

LLMs haben sich stark weiterentwickelt und können jetzt eine besser funktionierende und anpassbare Erfahrung bieten.

Was ist neu?

@Saif

https://meta.discourse.org/t/discourse-ai-post-classifier-automation-rule/281227 kann verwendet werden, um Beiträge auf Toxizität (unter anderem) zu überprüfen und Communities an spezifische Verhaltenskodizes zu binden. Das bedeutet…

• Mehrere LLMs für unterschiedliche Leistungsanforderungen unterstützt
• Einfach zu definieren, was und wie Inhalte behandelt werden sollen
• Anpassbare Prompts für spezifische Community-Bedürfnisse
• Inhalte zur Überprüfung markieren

und vieles mehr.
Um den Übergang zu unterstützen, haben wir bereits Anleitungen verfasst

• Einrichtung der Erkennung von Toxizität/Verhaltenskodex in Ihrer Community
• Einrichtung der Spam-Erkennung in Ihrer Community
• Setting up NSFW detection in your community

Was passiert mit NSFW?

Diese Ankündigung sollte als sehr frühzeitig betrachtet werden. Solange wir nicht bereit sind, sie außer Betrieb zu nehmen, können Sie NSFW weiterhin nutzen. Wenn wir dies tun, werden wir das Modul außer Betrieb nehmen und allen Code aus dem Discourse AI-Plugin und zugehörigen Diensten von unseren Servern entfernen. Die Stilllegung wird erst erfolgen, nachdem AI Triage in der Lage ist, Bilder zu verarbeiten, was bald geschehen wird.

Update: Das NSFW-Modul wurde nun offiziell aus Discourse entfernt, einschließlich aller zugehörigen Website-Einstellungen und Funktionen. Wir fordern die Benutzer nun dringend auf, auf Discourse AI - AI triage umzusteigen und die oben genannten Anleitungen zu befolgen.

Geschäfts- und Unternehmenskunden sehen unter Was ist neu in den Admin-Einstellungen ihrer Websites Folgendes, was es ihnen ermöglicht, Discourse-gehostete LLMs zur Stromversorgung der KI-Triage ohne zusätzliche Kosten zu aktivieren.

[Saif (Saif Murtaza)]

Zur Information bezüglich der folgenden Änderung

@Saif

Ich möchte hier nur darauf hinweisen, dass die KI-Triage dank der Arbeit von @Roman_Rizzi an der Verbesserung der Prompts nicht mehr benötigt wird.

@sam

Es sollte einen %%POST%%-Platzhalter enthalten, der durch den Inhalt des Beitrags ersetzt wird.

[Saif (Saif Murtaza)]

@Saif Murtaza

AI Triage ist bereit, Bilder zu verarbeiten, was bald geschehen wird.

Dieser Teil ist nun abgeschlossen. Konfigurieren und verwenden Sie ein KI-Triage-gestütztes LLM für die Bilderkennung.

Zur Erinnerung: Wir haben das NSFW-Modul noch NICHT eingestellt. Dies wird noch etwas dauern.

[Saif (Saif Murtaza)]

Ein neuer Leitfaden ist hier verfügbar

Setting up NSFW detection in your community

This is a guide for setting up NSFW content detection in your community using Discourse AI automation to identify and moderate inappropriate images and text. Required user level: Administrator Setting up NSFW detection in your community Automatically detect and moderate NSFW (Not Safe for Work) content in your Discourse community using AI-powered automation. This guide will help you configure automated detection for both inappropriate images and text content…

[Saif (Saif Murtaza)]

Zu Ihrer Information: Wir blenden jetzt die Website-Einstellungen zum Aktivieren/Deaktivieren von Toxizität und NSFW aus. Dies ist Teil unserer fortlaufenden Bemühungen, die Funktionen weiterhin einzustellen.

Wenn Sie diese Funktionen aktiviert haben, funktionieren sie weiterhin normal. Wir haben die Funktionen noch NICHT vollständig eingestellt.

Wenn Sie sie deaktiviert haben und sie aktivieren möchten, können Sie dies nun nicht mehr tun.

[Saif (Saif Murtaza)]

Hallo Leute, hier ist dieses Update

@Saif

Update: Das NSFW-Modul wurde nun offiziell aus Discourse entfernt, dies schließt alle zugehörigen Einstellungen und Funktionen ein. Wir fordern die Benutzer nun auf, auf Discourse AI - AI triage umzusteigen und die oben aufgeführten Anleitungen zu befolgen.

Geschäfts- und Unternehmenskunden sehen in den Admin-Einstellungen ihrer Websites unter Was ist neu Folgendes, was es ihnen ermöglicht, Discourse-gehostete LLMs zur Unterstützung der KI-Triage ohne zusätzliche Kosten zu aktivieren.