この質問は、フォーラムのオーナーやモデレーター全員へのものです。AIを使ってフォーラムを自動的に閲覧し、直近のコメントを自動で読み取り、AIがスレッドへの返信を自動生成して投稿するユーザーについて、皆さんはどうお考えですか? こうしたユーザーは、実際にフォーラムに参加しなくても、信頼レベルを上げて信頼レベルが設定されたセクションにアクセスできるようにしたいという動機で、このようなことをしています。
皆さんは、こうしたユーザーを積極的に取り締まっていますか? AIが書いたものと判断する基準は何ですか? それとも、見逃すようにしていますか?
「いいね!」 3
さらに不誠実なケースもあります。あるユーザーがAIで生成した新しいトピックをスレッドに投稿し、しばらくしてから、別のユーザー(おそらく同じ人物が所有しているアカウント)が返信でその投稿に同意し、称賛する、という投稿を見たことがあります。
「いいね!」 2
Ed_S
(Ed S)
3
この挙動は見たことがありませんが、私ならBANをします。もし彼らが良好な状態のメンバーであれば、警告にとどまるかもしれませんが、この話では彼らが貢献したことがないようですね。
LLMによる貢献について明確なポリシーを持つことが役立つと思います。
「いいね!」 3
さて、この問題に対処するにはどうすればよいか、という質問への私の答えは、信頼度ゲート付きコンテンツをどの程度重視しているか、そしてそのコンテンツへのアクセスをどの程度重視しているかによるでしょう。
もし、人々が「システムを悪用して」アクセスを得ることを望まないコンテンツであれば、そのような行動を防ぐ方法を検討すべきだと思います。
その理由は、そのような行動が非常に一般的だからです。ロバートの例を見てください:
ああ……ここでは毎日こんなことが起きています……
とにかく
多くの場合、人間モデレーターは単にそれを読むだけでかなり明白にわかりますが、それにはモデレーターの時間がかかります。一部の管理者は、AIを捕捉するためにAIを使っています(面白いでしょう?)
同様の議論はここにあります:
「いいね!」 3
nickdb
(Nick)
5
使用されているユーザーエージェントを特定できる場合、またはそれらが制御基準を遵守している場合は、ブロック、レート制限、または llms.txt の使用を検討できます。
ただし、これらは自動化プログラムが「紳士的」に動作する場合にのみ有効です。
特定の地域が問題となっている場合は、ジオブロッキングも常に利用できます。
私は AI 検出エージェントを使用して、新規または信頼度が低いレベルのアクセスをスクリーニングしています。精度は約 95% 以上と実証されています。
悪意のあるアクターがどれほど巧妙であるかによりますが、いくつかの作業とテストを通じて、こちら側がより巧妙に対応できるようになります 
「いいね!」 3
mbauman
(Matt Bauman)
6
私たちもよく似た状況を目にしています。もちろん動機までは言及できませんが、私の経験上、これは「信頼を得ようとする」ことよりもずっと興味を引かれません。ただのスポンとしか思えません。
スパムには現在、AIの学習データセットや GEO も含まれます。これは、彼らにとって製品やサービス、あるいは企業をインターネット上のあちこちに単に「言及」するだけで有益になるものです。
つまり、時にはリンクを貼るのに十分な信頼を蓄積するためにやっているのでしょうが、リンクはもはや二次的なものだと推測しています。
これまでの見分け方は比較的明白でした。私の「正直な感想」は、「構造的な弱点」がはっきりと露呈しているということです。私はそのトピックを保留にし、ユーザーに「ようこそ、戻すには私に返信してください」というフレンドリー(ただし定型文)なDMを送ります。
これまで誰一人として私に返信した人はいません。
「いいね!」 3
pfaffman
(Jay Pfaffman)
7
別のユーザーが提案したように、ゲート付きコンテンツの価値と、フォーラムへのユーザー貢献の相対的な価値を再考する必要があるかもしれません。ゲート付きコンテンツへのアクセス権がない人々は、意味のある貢献に必要な知識やスキルを持っているのでしょうか?スパム投稿が役立つようにはせず、かつ人々がそうする誘惑を感じないよう、信頼度レベルを上げるための要件を変更し、それを明確に示す方法を考えてみてください。
AIが導入される以前、新規ユーザーは意味のある貢献を行い、次の信頼度レベルに到達することができていましたか?