人間同士の交流を促す敬意システム

コミュニティ管理者がAIによる回答を許可しているかどうかを尋ねていた別のトピックを見て、考えさせられました。新しいワークフロー機能や、カスタマイズされたゲーミフィケーションプラグインなどのいくつかの機能があれば、実在する人間が他のユーザーからリスペクト投票を受け、AIにはダウントicketが投じられるような仕組みを作るのは難しくないはずです。ユーザーのリスペクトが高いほど、そのユーザーが投じる上向き・下向きの投票の重みも大きくなります。

Discourseに組み込まれている信頼システムは、基本的に同じものです。

スパマーがシステムを悪用しようとする様子を、私は直接見てきました。彼らはAIのトピックを投稿し、別のアカウントを使って自分のトピックにアップボートを投じます。AIが自分自身にスパムを送っているようなものです :rofl:

私の「リスペクト」システムも同じように悪用されるのでしょうか、それともフォーラムを自己管理し、人間同士の交流を促進しながら管理業務の負担を軽減できるでしょうか?

「いいね!」 1

「Post Voting」プラグインはこの機能と非常に相性が良さそうに思えます。

そういえば、AIが駆動するアカウントがこれほどまでに活発化して、投稿の「いいね」やインタラクションを行い、TL3に到達するケースは実際にあるのでしょうか?もしそうなら、それは問題になりかねません。

その場合、解決策として昇格基準を「獲得したポイント数」に変更するという手もあります。ただし、それはシステム全体にとって根本的な変化を意味します。ポイントを獲得するために、フォーラムのゲーミフィケーション(文字通り)をより攻撃的に推し進めることにつながります。とはいえ、良質な非AI生成コンテンツを積極的に投稿すること自体は、むしろ良いことかもしれません……

課題は、より多くの人々がAIを使って自分の考えを形成しているという点です。トピックをコピペして投稿欄に貼り付けている人の増加から、その傾向が見えてきます。実際、私はこの指標をクエリできるボットを持っており、投稿の「AIらしさ」を確認するためのもう一つの次元として活用しています。

人間がAIの意のままの代行者になり、デジタル処理されたコンテンツを自分の考えだと信じるようになれば、敬意に基づくシステムは崩壊します。

これを機能させるには、フォーラムの全メンバー間で共通の基盤、つまり価値観の体系が必要です。しかし、私の見解では、大規模な集団、ましてやオンラインコミュニティでは、それは不可能です。

私は、ソックパペット(同一人物が複数アカウントを操作すること)や投票の癒着(特定の候補者に票を集中させること)は、人間がすでにやっていることであり、エージェントが自らの目標達成に役立つと判断すれば、必然的にエージェントも行うようになるものだと思います。

これは軍拡競争であり、したがって勝つことのできないものです。どの対策が経済的に価値があるかは、経済学の問題です。

以前、Slashdotのメタモデレーション(meta-moderation)方式について言及したかもしれませんが、私は常にその仕組みに感心していました。おそらく投票プラグインと大差ないものですが、追加のメカニズムが含まれている可能性があります。Slashdotはこれらの課題に対処する必要があった初期のポピュラーなサイトで、私たちがそう望むなら、そこから学ぶことのできる歴史の一部です。

「いいね!」 1

これを拡張して、派閥(カルバル)を特定できるかどうか気になっています。