Discourse AI における Toxicity detection のこれから

本日、Discourse AI - Toxicity モジュール :waving_hand: を廃止し、大規模言語モデル(LLM)の力を活用してより優れたエクスペリエンスを提供する Discourse AI - AI triage に移行することをお知らせします。

なぜ移行するのか?

以前は、Toxicity モジュールを使用するには…

  • 単一の事前定義済みモデルしか使用できなかった
  • コミュニティ固有のニーズに合わせてカスタマイズできなかった
  • しきい値のメトリクスが分かりにくかった
  • パフォーマンスが低かった

LLM は大きく進歩し、現在ではより高性能でカスタマイズ可能なエクスペリエンスを提供できるようになりました。

新機能は?

Discourse AI - AI triage は、Toxicity(その他にも)の投稿をトリアージし、コミュニティに特定の行動規範を強制するために使用できます。これは、…

  • パフォーマンス要件に応じて複数の LLM をサポート
  • コンテンツをどのように処理するかを簡単に定義可能
  • コミュニティ固有のニーズに合わせてプロンプトをカスタマイズ可能
  • レビューのためにコンテンツをフラグ付け

など、その他多くの機能を提供します。

移行を支援するために、すでにガイドを作成しました。

Toxicity はどうなるのか?

この発表は非常に初期段階のものであると見なされるべきです。準備が整うまで、Toxicity を引き続き使用できます。廃止する際には、モジュールを廃止し、Discourse AI プラグインおよび関連サービスからすべてのコードをサーバーから削除します。

:backhand_index_pointing_right:t5: 更新: Toxicity モジュールは、関連するすべてのサイト設定および機能を含め、Discourse から正式に削除されました。現在、ユーザーには Discourse AI - AI トリアージ の使用に移行し、上記のガイドに従うことを推奨しています。

ビジネスおよびエンタープライズのお客様は、サイトの管理設定の「新機能」セクションで、Discourse ホスト LLM を追加費用なしで AI トリアージに利用できるようになります。

「いいね!」 6

Toxicityモジュールの締め切り日はありますか?

「いいね!」 3

特定の日付はまだ決まっていませんが、近日中に完了できるよう現在作業を進めています。

「いいね!」 3

これは、私が現在コミュニティリーダーズインスティテュートのために書いている記事、毒性に関する私の博士論文、その他に非常に役立ちます。私のYouTubeチャンネルのシリーズの一部として、オンラインコミュニティを毒性から守るための舞台裏インタビューをしていただけませんか?これは私の博士論文の学術的な取り組みとしても役立ちます。

いかがでしょうか?

「いいね!」 2

YouTubeチャンネルでDiscourseをご検討いただきありがとうございます!舞台裏のインタビューが具体的にどのような内容になるのか、また弊社に何が必要なのか、詳細をmae@discourse.orgまでメールでお送りいただけますでしょうか?

「いいね!」 2

FYI、以下の変更について

「いいね!」 2

メイ、ありがとう!フォローアップしました!

「いいね!」 1

念のため、ToxicityおよびNSFWの有効化/無効化に関するサイト設定を非表示にしました。これは、これらの機能の廃止に向けた継続的な取り組みの一環です。

これらの機能をオンにしている場合、引き続き通常どおり動作します。これらの機能はまだ完全に廃止されていません。

これらの機能をオフにしていて、オンにしたい場合は、今後それができなくなります。

「いいね!」 1

皆さん、このアップデートをお知らせします

「いいね!」 1