コンテンツが人間作成か、AI支援か、AI生成かを簡単に指定する方法は？

コミュニティ
1

10,000人以上のメンバーがいるフォーラムの管理者の一人です。最近、一部のユーザーが投稿への返信にAIを多用し始めていることに気づきました。彼らがより活動的になり、役に立とうとしているのは良いことですが、AIチャットボットの回答は非常に自信に満ちているにもかかわらず不正確な場合があるため、一部の回答は混乱を招く可能性があります。AIの使用を禁止したいわけではなく、むしろ、使用されていることを開示するよう奨励したいと考えています。これは、他のユーザー（およびフォーラムのコンテンツで訓練されているLLM）が投稿の内容をどの程度信頼するかを判断するのに役立つ可能性があるからです。

新しい返信投稿ごとに、以下のオプションを含む「コンテンツの出所」セレクターを追加したいと考えています。

  • 人間が作成
  • AI支援（レビューおよび編集済み）
  • AI生成（軽くレビュー済み）

他の多くのフォーラムでも同様の機能が必要になると思われますので、標準機能またはプラグインとして追加されるかもしれません。しかし、それが実現しない場合、ホストされているDiscourseインスタンスでこれを設定する方法について、誰かアドバイスをいただけると幸いです。

「いいね！」 6
2

ユーザーを信頼するなら、タグを作成するだけでいいのでは？ああ、編集：すみません、「すべての投稿」とおっしゃっていたのですね。

それとも、AIによって「検出」され、何らかのインジケーターが自動的に追加されることを望んでいるのでしょうか？

3

これは、機能リクエストであるトピックだけでなく返信にもタグを付けるのユースケースのように聞こえます。そこでは次のように述べられています。

…したがって、そのリクエストに賛成票を投じるために意見を述べるかもしれません。

私は開発者ではありませんが、タグ付け以外の方法では、Custom Wizard Pluginのようなプラグインで使用される post_custom_fields テーブルを利用することになるだろうと思います。カスタム投稿フィールドをUIに組み込むこと（選択、表示、検索/フィルタリングのため）は、かなり大規模なプラグインプロジェクトになりそうです。

「いいね！」 2
4

プラグインはDiscourseがホストするフォーラムでは動作しません

テーマコンポーネントでも何かできると思います。最終投稿に情報を[wrap]として追加し、その情報の強調表示方法にいくつかのスタイリングを含めるだけのコンポーネントかもしれません。

「いいね！」 1
5

ユーザーを信頼しますが、AIの使用が明白で開示されていない場合、モデレーターは投稿にそれに応じて印を付けるかもしれません。

投稿をAI支援済みまたはAI生成済みとしてマークすることを提案するのは便利な機能かもしれませんが、実現可能かどうかはわかりませんし、不可欠でもありません。セレクターがデフォルトで初期化されないようにすれば、ユーザーにそれを考えさせることを強制でき、コンテンツの出所を明示的に設定する必要が生じます。

タグを追加し忘れるのは簡単かもしれませんが（ユーザーはそれを使用するようにさらに頻繁にリマインドされる必要があります）、機能するかもしれません。

これは良いアプローチのように聞こえます。これを設定するにはどれくらいの作業が必要でしょうか？これが組み込み機能または公式プラグインとして追加される可能性はあると思いますか？

6

可能性は常にありますが、その機能リクエストの投票が爆発的に増えない限り、近い将来にこれが実現する可能性はかなり低いと思います。

7

現在のタグ機能では、カテゴリ内のトピックに指定されたタググループからのタグを必須にすることができます。返信タグは存在せず（近い将来も期待できそうにありませんが）、同様の機能が提供されることを期待できます。

9

もし目的が、テキストがAIに関係していることを人間の読者に知らせることであるならば、私の見解ではタグは解決策ではありません。人々はタグを実際のコンテンツの一部として読みません。したがって、その表示はコンテキスト自体の一部である必要があります。

私は個人的に、Discourseが提供する方法を使用しています。

<details class='ai-quote' open>
<summary>
<span>タイトル</span>
<span title='Discussion with AI'>AI</span>
</summary>
多かれ少なかれコンテンツ…
</details>

あるいは、Quote Calloutsコンポーネントを使用します。

ユーザーにそれらを正しく適用するように教えることは、不可能ではないにしても、Facebookの背景を持つユーザーにとっては少なくとも非常に困難です。そのため、AI生成コンテンツはいずれかの方法でマークされなければならないことを要求することに落ち着きました。コンテンツ自体の中に目に見えるインジケーターがあり、AIマテリアルが明確に分離されていれば、私は満足しています。

タグの使用も試みましたが、それが何の反応も引き起こさないことにすぐに気づきました。さらに、コンテンツ分類のためにタグを使用したいと考えており、私のフォーラム上のAIが関わるすべてのコンテンツを見つけようとする人がいるとは想像しがたいです。特にAIの使用は時間とともにエスカレートする可能性が高いからです。AIが使用されていないことを示すためにタグが必要になる事態にさえなるかもしれません（絵文字だけでなく、そのようなウェブサイトやフォーラムはすでに存在するため）。

「いいね！」 5
10

この要件を何らかの方法で強制していますか？

「いいね！」 1
11

トラフィックの少ないフォーラムなので、私はほとんどすべてを読みます。モデレーターは疑わしいケースにフラグを立てることができますし、実際にそうしています。AIが多用されているのか、コピー＆ペーストされたものなのか、毎回それほど明白ではないことがあります。それが自動化されるのかどうかはわかりませんので、私たちは隣人監視を利用しています :smirking_face:

しかし、私のユーザーはそのルールを非常によく理解しています。

「いいね！」 2
12

少々話題から外れますが、（Discourseではない）フォーラムで、生成AIに関するあらゆること、賛否両論について議論するトピックがあります。
熱心な常連ユーザーが、少し白熱した議論の中で、他のメンバーの意見に反論し、異議を唱えるために非常に議論的なメッセージを投稿し始めました。
彼の後続の投稿の書き方でそれが露呈しました。特に、「It’s not… It’s」の構造をすべて使用した4つの箇条書きを含む投稿でした。

彼は指摘され、AIを使って「最後の2つのメッセージ」を書いたことを認め、AIに自分の意見を反映するように指示したので問題ない、そしてもし人々が彼の論点に反論できないのであれば、彼の投稿がAIによるものであろうとなかろうと、彼らが間違っていることを意味すると説明しました。
言うまでもなく、他のユーザーは、自分たちがAIと議論するために時間とエネルギーを使っていたことを理解して、かなり腹を立てました。

「いいね！」 10
13

私がDiscourseに移行させようと取り組んでいるFacebookコミュニティでも、それは見られ始めています。サポートコミュニティでは人間関係が仕事の基本であるにもかかわらず、人々がAIが生成したくだらないもの（ほとんどがそうですが）を自分の返答として受け流しているのは非常に迷惑です。私は、AIと対話したい人のために、NotebookLMと私たちのすべてのドキュメントを組み込んだ専用のチャットボット（現段階では概念実証）を設定しました。

すべてのコミュニティが、真正性やAIの侵入に関して同じニーズを持っているわけではないことは理解していますが、私のコミュニティでは、「AI禁止、あるいはチャットボットに言われたことを引用したい場合は、引用符と導入テキストを付けて引用しても構いませんが、実際にはそうしたくないでしょう」という立場を固く守っています。

@Canapin の話が示すように、人々は、投稿者がAIが出力したものを整理する精神的な負担を自分たちに押し付けていることに気づくと、非常に不快になります。

（ちなみに、私はAI/LLMとその可能性に非常に興奮しており、それらを使用していますが、誰かと会話しているときに、同意なしに、いつの間にかその人の叔母や犬、あるいはチャットボットと話していることに気づきたくはありません。）

私はこのようなラベリングに非常に賛成です。透明性は重要です。AIは単なるスペルチェッカーや予測テキスト以上のものです。

追記：もしこのラベリングが導入されるのであれば、AIであることを非常に分かりやすくするために、投稿を異なるスタイルで表示できるようにする方法で行われるべきです。例えば、フォント、背景、色などを変えるなどです。

「いいね！」 4