コンテンツが人間作成か、AI支援か、AI生成かを簡単に指定する方法は？

サポート
1

10,000人以上のメンバーがいるフォーラムの管理者の一人です。最近、一部のユーザーが投稿への返信にAIを多用し始めていることに気づきました。彼らがより活動的になり、役に立とうとしているのは良いことですが、AIチャットボットの回答は非常に自信に満ちているにもかかわらず不正確な場合があるため、一部の回答は混乱を招く可能性があります。AIの使用を禁止したいわけではなく、むしろ、使用されていることを開示するよう奨励したいと考えています。これは、他のユーザー（およびフォーラムのコンテンツで訓練されているLLM）が投稿の内容をどの程度信頼するかを判断するのに役立つ可能性があるからです。

新しい返信投稿ごとに、以下のオプションを含む「コンテンツの出所」セレクターを追加したいと考えています。

  • 人間が作成
  • AI支援（レビューおよび編集済み）
  • AI生成（軽くレビュー済み）

他の多くのフォーラムでも同様の機能が必要になると思われますので、標準機能またはプラグインとして追加されるかもしれません。しかし、それが実現しない場合、ホストされているDiscourseインスタンスでこれを設定する方法について、誰かアドバイスをいただけると幸いです。

「いいね！」 3
2

ユーザーを信頼するなら、タグを作成するだけでいいのでは？ああ、編集：すみません、「すべての投稿」とおっしゃっていたのですね。

それとも、AIによって「検出」され、何らかのインジケーターが自動的に追加されることを望んでいるのでしょうか？

3

これは、機能リクエストであるトピックだけでなく返信にもタグを付けるのユースケースのように聞こえます。そこでは次のように述べられています。

…したがって、そのリクエストに賛成票を投じるために意見を述べるかもしれません。

私は開発者ではありませんが、タグ付け以外の方法では、Custom Wizard Pluginのようなプラグインで使用される post_custom_fields テーブルを利用することになるだろうと思います。カスタム投稿フィールドをUIに組み込むこと（選択、表示、検索/フィルタリングのため）は、かなり大規模なプラグインプロジェクトになりそうです。

「いいね！」 1
4

プラグインはDiscourseがホストするフォーラムでは動作しません

テーマコンポーネントでも何かできると思います。最終投稿に情報を[wrap]として追加し、その情報の強調表示方法にいくつかのスタイリングを含めるだけのコンポーネントかもしれません。

「いいね！」 1
5

ユーザーを信頼しますが、AIの使用が明白で開示されていない場合、モデレーターは投稿にそれに応じて印を付けるかもしれません。

投稿をAI支援済みまたはAI生成済みとしてマークすることを提案するのは便利な機能かもしれませんが、実現可能かどうかはわかりませんし、不可欠でもありません。セレクターがデフォルトで初期化されないようにすれば、ユーザーにそれを考えさせることを強制でき、コンテンツの出所を明示的に設定する必要が生じます。

タグを追加し忘れるのは簡単かもしれませんが（ユーザーはそれを使用するようにさらに頻繁にリマインドされる必要があります）、機能するかもしれません。

これは良いアプローチのように聞こえます。これを設定するにはどれくらいの作業が必要でしょうか？これが組み込み機能または公式プラグインとして追加される可能性はあると思いますか？

6

可能性は常にありますが、その機能リクエストの投票が爆発的に増えない限り、近い将来にこれが実現する可能性はかなり低いと思います。

7

現在のタグ機能では、カテゴリ内のトピックに指定されたタググループからのタグを必須にすることができます。返信タグは存在せず（近い将来も期待できそうにありませんが）、同様の機能が提供されることを期待できます。

8

(投稿は投稿者によって削除されました)

9

もし目的が、テキストがAIに関係していることを人間の読者に知らせることであるならば、私の見解ではタグは解決策ではありません。人々はタグを実際のコンテンツの一部として読みません。したがって、その表示はコンテキスト自体の一部である必要があります。

私は個人的に、Discourseが提供する方法を使用しています。

<details class='ai-quote' open>
<summary>
<span>タイトル</span>
<span title='Discussion with AI'>AI</span>
</summary>
多かれ少なかれコンテンツ…
</details>

あるいは、Quote Calloutsコンポーネントを使用します。

ユーザーにそれらを正しく適用するように教えることは、不可能ではないにしても、Facebookの背景を持つユーザーにとっては少なくとも非常に困難です。そのため、AI生成コンテンツはいずれかの方法でマークされなければならないことを要求することに落ち着きました。コンテンツ自体の中に目に見えるインジケーターがあり、AIマテリアルが明確に分離されていれば、私は満足しています。

タグの使用も試みましたが、それが何の反応も引き起こさないことにすぐに気づきました。さらに、コンテンツ分類のためにタグを使用したいと考えており、私のフォーラム上のAIが関わるすべてのコンテンツを見つけようとする人がいるとは想像しがたいです。特にAIの使用は時間とともにエスカレートする可能性が高いからです。AIが使用されていないことを示すためにタグが必要になる事態にさえなるかもしれません（絵文字だけでなく、そのようなウェブサイトやフォーラムはすでに存在するため）。

「いいね！」 3