投稿がAI生成であることを示す表示がないAI生成投稿のフラグオプションを追加

特徴
1

タイトルが示すように、投稿がAIによって生成された、またはAIによって生成されたように見えることを示すオプションをフラグ付けに追加します。

サイトがAI生成コンテンツを許可しているかどうかにかかわらず、フラグは作成者に通知するように注意する必要があります。AIコンテンツが許可されている場合、フラグは必要なもの、たとえば使用されたモデルとモデルのバージョン、および生成されたコンテンツを作成するために使用されたプロンプトを注意する必要があります。

数週間前にOpenAIサイトでDevDayが開催され、OpenAI Discourseフォーラムの投稿数が増加しました。その後、CEOが解任され、取締役会のメンバーが変更されたことで、さらに多くの新規ユーザーが参加しました。これにより、トピックの最初の投稿の多くがAIによって生成されたものになっています。通常のユーザーはこれらが許可されるべきかどうかをまだ判断しようとしていますが、少なくともこれらのフラグを立てるオプションがあれば、他のユーザーは投稿がAIによって生成されたコンテンツであることを知ることができ、価値があるでしょう。

フラグ付けの際に「その他」のオプションがあることは知っています。しかし、多くのユーザーはそれを使用せず、ユーザーがそれを使用した場合でも、ユーザーが本当にフラグを立てた理由を理解するには、心を読み取る必要があります。「その他」の説明はしばしば非常に曖昧であるため、モデレーターはユーザーにDMしてフラグの理由を理解する必要があります。リストにあるフラグオプションは、しばしば迅速に選択され、使用されます。

これは物議を醸す機能リクエストと見なされる可能性があるため、多くの議論またはほとんど議論がないことが予想されます。

これについて議論したい場合は、親切に、トピックに沿って、個人への攻撃を避け、常にサイトのガイドラインに従ってください。

「いいね！」 2
2

これはサイト定義のカスタムフラグに適した候補のようです。それに対するリクエストがいくつかあったことは知っていますが、それがすぐに実現する予定にあるかはわかりません。

「いいね！」 4
3

ありがとうございます！

そのようなものは聞いたことがありませんでしたが、価値のある機能強化ですね。

余談ですが：

このような投稿を見つけるために、Discourse AI ボットを使用しました。（チャット）

プロンプト

サイト定義のカスタムフラグまたは類似のものを記載した投稿をリストアップしてください。

完了

「サイト定義のカスタムフラグ」または類似のトピックに言及している投稿は以下のとおりです。

  1. AIによって生成された投稿に、AI生成であるという表示がない場合にフラグを立てるオプションを追加する
  • 抜粋：「これはサイト定義のカスタムフラグの良い候補のようです。いくつかそのような要望があったことは知っていますが、それがすぐにロードマップにあるかはわかりません。」
  • 作成日：2023-11-29
  • カテゴリ：feature
  • タグ：moderation, ai
  1. カスタムフラグを作成する
  • 抜粋：「理想的には、「フラグ」機能を使用して、自分で作成できるカスタムフラグを付けたいのですが…」
  • 作成日：2014-07-15
  • カテゴリ：feature

詳細については、提供されたリンクを参照してください。

リンクをたどらない方のために、そのうちの1つは以下につながります。

4

リンクするのに適した#featureのトピックを探していましたが、最近のそれに関する議論の大部分は内部的なものだったと思います。それでも、ある程度の勢いを増しており、これがもう1つの良いユースケースだと思います。

#aiプラグインタグは削除しました。これはプラグインの機能というよりも、aiコンテンツのモデレーションに関係しているためです。ただし、aiプラグインを使用してそのようなケースを自動フラグ付けすることも可能かどうか疑問に思いましたか？

「いいね！」 2
5

念のため、トピックから外れることを承知の上で申し上げます。

  • AIの貢献を自動的に検出することは非常に困難（ほぼ不可能）です。（出典：こちらの議論 を参照）
  • いずれにせよ、サイトの主要言語（例：英語）が母国語でない人が、自身の投稿を書き直すためにAIを使用する可能性があります。その場合、検出可能（？！）であったり、「疑わしいほどよく書けている」としても、あなたはそれらをモデレートしたり、モデレーションのために提起したりしたいでしょうか？
  • スパム行為を試みているのでない限り、なぜわざわざそんなことをするのでしょうか？スパム行為については、すでにフラグがあります。
「いいね！」 3
6

それが何を意味するのか3回読み直しました。

私は自然に ai タグを ai に関連するトピックとして考えていましたが、モデレーターとしては各タグの意味をより鋭く認識しており、ai タグは私が意図した AI 関連ではなく、Discourse AI ボット専用に使用されていることに気づきました。

同じような考えに陥った他の人のために、これを記録しておきます。

「いいね！」 1