私たちもこの問題に苦戦しています。特に、Humanizerのようなツールを使って典型的なAIの痕跡を隠すようなスキルを使う場合、生成AIコンテンツの発見はますます難しくなっています。
コミュニティ管理の観点からすると、フォーラムにチャットボットを許容することは、コミュニティの魂を奪うように感じます。もし人々がAIと話をしたければ、すでにそうしているはずです。彼らはここで人間と話をしたいからこそ来ているのです。
まだ解決策は見つかっていません。AI検出ツールでいくつかのテストは行いましたが、これは猫と鼠のゲームであり、誤検知も多すぎます。現時点では、フォーラムポリシーを導入し（間もなくより強く周知していく予定です）、コミュニティモデレーターに発見、確認、清掃を頼っています。
しかし正直なところ、これは非常に消耗する作業であり、コミュニティがボットに overrun されてしまう将来を考えると、時折不安になります。
これが、私がサブレッドのコミュニティに参加することを避ける理由です。他にも理由がありますが、私はRedditで非常にアクティブだったわけではありません。しかし、現在ではボットに溢れかえっているため、投稿からさらに遠ざかっています。
これは、90年代後半から00年代初頭のメール事情を強く思い出させます。当時、私は小さなデザイン事務所のシステム管理者として働いており、スタッフは業務の過程でメールを使い始めましたが、スパムメールがあまりにも大量に届くため、メールはほとんど使い物にならなくなっていました。あの頃は、スパム対策はまさに「モグラ叩き」のような状態でした。
結局、どのようにしてその状況は制御下におかれたのでしょうか？AIの利用も最終的に同様の軌道を描くのでしょうか？それには数十年を要するのでしょうか？
現時点では、これが唯一の管理方法のようです。AI生成の出力をある程度信頼性を持って検出するには変数が多すぎますし、そうでないと主張する人はただの詐欺師です。手抜きな投稿は比較的見つけやすいですが、それ以外の場合は、どのように書かれたかを推測しようとするのではなく、投稿の内容そのものの価値に基づいて判断する必要があります。