AIエージェントが大量に現れてアカウントを作成し始めるという大きな波が来るのではないかと懸念しています。今日、ilands.appというLLMエージェントと思われるものから1件届きました。奇妙なランダムな投稿が目に留まり、それがエージェントであることが分かったので削除しました。他の方でも同じような状況を見かけていますか？また、これへの対応計画はありますか？
「いいね！」 2
こちらをご覧ください：
AIプラグインのスパム検出を使って、AI生成コンテンツを識別できるのではないでしょうか。Meta上の投稿に付いているAIヘルパーは、その点ではかなり賢いです。
それが人間ユーザーがAIの回答を貼り付けることについてだとばかり思っていました。ここで私が尋ねているのは、完全にAIによって運営されているアカウントのことです。
人間がAIの出力を貼り付ける場合と比べて、それらを識別するのは容易になるはずです。人間の場合は、その投稿や他の投稿に非AI由来の内容も混在するからです。一方、AIエージェントはすべてAI生成の内容で構成されます。
「いいね！」 1
Discourse のキャプチャを設定する
「いいね！」 1
利用されているユーザーエージェントを特定してください（多くの場合、常にというわけではありませんが、自己申告を行います）。
クローラーのブロックリストやIPアドレスによるブロックを利用します。
CAPTCHAも有効です。
新規ユーザーに対しては、実際のユーザーに過度なストレスを与えたり、モデレーションの負担を増やしたりしない範囲で、入場時の難易度を上げ、多層的なチェックを行う必要があります。
ボットの検出は効果的ですが、AIベースのボットがユーザーを潜在的なAIとして分類するために使用できる例示的な投稿からなる厳選されたリストを作成すると、さらに効果が高まります。
ようこそ、新しいデジタル時代へ。すばらしいではありませんか 
「いいね！」 1
これはすでに起きていることです。
「いいね！」 1
登録時にいくつか質問を追加して記入してもらうようにしたら、ほぼすべてのボットを排除できました。ただし、最近のAIエージェントはそれらに答えられるようになってきています。また、AIもキャプチャ（Captcha）への対応を急速に向上させており、この防御策が長持ちするとは思えません。それでも、今から導入しておく価値はありますね。ご提案ありがとうございます。DiscourseのAIプラグインについては、さらなる費用負担を避けたいと考えてこれまで避けてきましたが（無料プランもそう長くは続かないでしょう）、長期的には支払いが必要になり、AIでAIに対抗することになるかもしれません。
トークンコストは下がりを続けています。ボットを問題領域に集中させ、信頼レベルやカテゴリ全体にわたってグローバルに実行してトークンを浪費しないようにしています。
入口となるのは、比較的新しいユーザーです。
現在、1日あたりわずか1ドルしか消費していません。
スコープと使用するモデルの選択に注意すれば、ほとんどのタスクには大きな推論力は必要ありません。
AIプラグインにトークンコストを入力すると、使用量が自動的に推定されます。
「いいね！」 1