AIのフラグ付けが過敏すぎる

これに関する具体的な情報が見つかりません。

有害な投稿を自動的にフラグ付けする際(コミュニティを敬意を払い、安全に保ちたいので、これは私が望むことです)、あまりにも敏感で、「くだらない」とテレビのエピソードを呼んだ投稿にフラグが立てられました。

80に設定されていました。90に増やしたばかりです。しかし、最大値(おそらく100)と、非常に単純な誤検知を行わずにコミュニティを保護するために正確に何をセットアップする必要があるかについてのドキュメントがありませんか?

ありがとうございます!

「いいね!」 3

@Shauny様、Discourse AIプラグインの現在の有害性モジュールプロバイダーが、ほとんどのコミュニティにとって感度が高すぎるとの報告を受けています。

この問題に対処するため、新しい大規模言語モデルをコンテンツのフラグ付けのための分類子として使用できるようにしました。これにより、コミュニティマネージャーは、コミュニティに適した感度にフラグ付けの感度をカスタマイズできるようになります。

この新機能のガイドはまだ作成中ですが、共有できるようになったらここでご連絡します。

「いいね!」 7

スパム検出に関するガイドを公開しました。AIボットを有効にするでプロンプトをカスタマイズして、機密コンテンツを探すことができます!

「いいね!」 1