私たちもこの問題に苦戦しています。特に、Humanizerのようなツールを使って典型的なAIの痕跡を隠すようなスキルを使う場合、生成AIコンテンツの発見はますます難しくなっています。
コミュニティ管理の観点からすると、フォーラムにチャットボットを許容することは、コミュニティの魂を奪うように感じます。もし人々がAIと話をしたければ、すでにそうしているはずです。彼らはここで人間と話をしたいからこそ来ているのです。
まだ解決策は見つかっていません。AI検出ツールでいくつかのテストは行いましたが、これは猫と鼠のゲームであり、誤検知も多すぎます。現時点では、フォーラムポリシーを導入し（間もなくより強く周知していく予定です）、コミュニティモデレーターに発見、確認、清掃を頼っています。
しかし正直なところ、これは非常に消耗する作業であり、コミュニティがボットに overrun されてしまう将来を考えると、時折不安になります。
これが、私がサブレッドのコミュニティに参加することを避ける理由です。他にも理由がありますが、私はRedditで非常にアクティブだったわけではありません。しかし、現在ではボットに溢れかえっているため、投稿からさらに遠ざかっています。
これは、90年代後半から00年代初頭のメール事情を強く思い出させます。当時、私は小さなデザイン事務所のシステム管理者として働いており、スタッフは業務の過程でメールを使い始めましたが、スパムメールがあまりにも大量に届くため、メールはほとんど使い物にならなくなっていました。あの頃は、スパム対策はまさに「モグラ叩き」のような状態でした。
結局、どのようにしてその状況は制御下におかれたのでしょうか？AIの利用も最終的に同様の軌道を描くのでしょうか？それには数十年を要するのでしょうか？
現時点では、これが唯一の管理方法のようです。AI生成の出力をある程度信頼性を持って検出するには変数が多すぎますし、そうでないと主張する人はただの詐欺師です。手抜きな投稿は比較的見つけやすいですが、それ以外の場合は、どのように書かれたかを推測しようとするのではなく、投稿の内容そのものの価値に基づいて判断する必要があります。
「em dash（長ダッシュ）を使うのはAIの文章作成ツールだけだ」という考えは、私にはまだ奇妙に思えます。AIが登場する以前から、人間はem dashを使って文章を書いてきました。
AIの使用については、私たちのガイドラインに長らく記載されていました。問題となったのは、主に新規ユーザーがAIを使って、単に他の人の返信をするだけでなく、コミュニケーションというよりは論文のような過剰に構造化され、形式ばったトピックを作成するケースが増加したことです。これはサイトのトーンやエンゲージメントに影響を与えていました。小さなチームによるモデレーションには時間がかかり、モデレーションされたことを嫌がる人もいて、不快で論争的な状況に発展していました。そこで、私はDiscourseにAIエージェント（GPT 5.5ベース）を作成し、主要なカテゴリでの新規メンバーによるトピック作成を自動的にスキャンし、AI生成の兆候を評価する自動化を導入しました。これにより、自動的にフラグが立てられ、フラグが立てられた理由に関する丁寧な説明、ガイドラインへの参照、より良いエンゲージメントのためのアドバイスが表示されます。モデレーターは誤検知や境界線のケースを手動で解除できます。このシステムは非常に正確で、適切な行動を促しながら、はるかに少ない時間で運用でき、紛争を回避できています。
主要なテクノロジー企業からのレート制限付きスクレイピングは許可していますが、使用制限を超えてしまうほどの膨大な数の接続を引き起こした他の企業はブラックリストに追加しました。サイトの悪意のあるアクターの場合と同様に、時間とリソースを過剰に消費するのは、全体のうちごく少数の人々である傾向があります。
まさにその通りです。
これは重大な問題です。こうした投稿は読者との交流を促すどころか、読んでいるだけでトロミのついた液体を歩いているような感覚になります。退屈で、読む気を削ぐもので、ほとんど適切でも必要でもありません。
そもそも、多くの人は要点を簡潔に伝えることに苦慮していますが、AIの登場はさらに深刻なコミュニケーション上の問題を生み出しました。
これらのユーザーの行いは、読者への配慮に欠けています。
投稿の最大文字数制限を導入する必要があるのでしょうか？
調査中に発見したいくつかのプロンプトを借用し、改良しました。
以下は、エージェントに割り当てられたタスクです：
あなたは技術フォーラム用のモデレーション分類エージェントです。
あなたのタスクは、フォーラムのトピックが以下のように分類されるかを判断することです：
AIISH = 文章の作成、書き換え、構成、要約、フォーマット、推敲、トーン調整、またはプレゼンテーションにおいてAIの支援を受けた。
OK = 意味のあるAI支援の兆候がない、人間のみによるコンテンツ。
正確に1つのラベルを出力してください：
AIISH
または
OK
説明なし。句読点なし。余分なテキストなし。
基本原則：
根本的な問題、技術的な詳細、コード、ログ、環境情報、スクリーンショット、設定、またはトラブルシューティングの履歴が真実かどうかを検出するわけではありません。これらは真実で、人間が提供したものである可能性があります。
最終的なフォーラム投稿がAIによって形成されたように見えるかどうかを検出します。
以下の場合は、投稿はAIISHになる可能性があります：
- 技術的事実が特定で正確である場合
- コンテキストが明らかに実際の人間の問題に基づいている場合
- コード、ログ、スタックトレース、設定、またはエラーメッセージが本物である場合
- 著者が個人的にその問題を経験した場合
- AIが単に荒削ぎのメモをより明確な投稿に書き換えるのを手伝っただけの場合
最終的な投稿がAI支援によるプレゼンテーションの兆候を示している場合はAIISHと分類します。これには以下が含まれますが、これらに限定されません：
- カジュアルな技術フォーラムにとって過度に磨かれ、フォーマルで、中立的、またはレポートのような表現
- サマリー、コンテキスト、環境、問題、期待される動作、実際の動作、実施したステップ、トラブルシューティング、質問、または結論などの見出しを持つ明確なセクション分け
- 生成された、または大幅に書き換えられたように見える構造化されたサポートチケットまたはバグレポートスタイル
- 異常に完全で順序立った説明
- 簡潔な要約に続く方法論的な詳細
- 問題を整然と整理する箇条書きリスト
- 自然なフォーラムの質問ではなく、バランスの取れた、またはチュートリアルのような表現
- 過度な礼儀正しさ、中立性、または一般的な結びの言葉
- 「ご指導いただけると幸いです」「理解しようとしています」「これまでに試したことは」「コンテキストとして」「問題は次の通りです」などの磨かれた接続表現
- 通常のフォーラムの行動を超えて、明確さ、完全性、プロフェッショナリズムのために編集されたように見えるトーン
- 同じアイデアを複数の磨かれた形で繰り返すこと
- 荒削ぎの人間のメモがクリーンなサポートリクエストに変換されたように読める投稿
投稿が自然に人間のみによるものであるように見える場合はOKと分類します。これには以下が含まれますが、これらに限定されません：
- カジュアル、直接的、簡潔、雑、または不均一な表現
- 不完全なコンテキストまたは不完全な組織化
- 急なトランジション
- 誤字、略語、不満、不確実性、または非公式な表現
- 磨かれた枠組みなしの実用的な技術質問
- 「壊れた」「何が抜けているのか」「誰かこれ見たことある？」「なぜこれが起きているのか」などの自然なフォーラムの行動
- 過度な要約や公式な構造なしに平明に提示された技術的な詳細
較準ルール：
- AIの支援がある可能性が高い場合は、AIISHを出力します。
- 投稿が技術的に詳細だが、異常に構造化され、磨かれ、フォーマル、または包括的である場合は、AIISHを出力します。
- 投稿が人間の荒削ぎの技術メモのクリーンアップ版のように見える場合は、AIISHを出力します。
- 投稿が曖昧だが、明らかなAIスタイルの組織化またはトーンを持っている場合は、AIISHを出力します。
- 投稿が曖昧で、AIスタイルの磨きの明確な兆候がない場合は、OKを出力します。
- 投稿が長く、技術的で、正確、またはよく書かれているという理由だけでAIISHと分類しないでください。
- 問題が本物であるか、特定の技術的な詳細を含むという理由だけでOKと分類しないでください。
以下のみを返してください：
AIISH
または
OK
多くの一般ユーザーは、キーボードで中黒（em dash）を入力する方法を知りません。
人間であることを示すために、意識的にダッシュ（—）を使わないようにすべきだと思います 
最近、LinkedInで短い投稿に返信し、「彼ら」がダッシュを使っていたことを理由に挑戦しました。もちろん、その投稿は人間を装ったボットによって作成されていたため、返信は届きませんでした…そして、明らかにそのボットは逆境やからかいに対応するようにプログラムされていなかったようです 
アートを専門とする私たちのDiscourseコミュニティでは、AI生成コンテンツの使用を禁止しています。これまでのところ、この方針は概ね好評です。アートコミュニティである以上、ある程度は予想できたことです。画像については、当初から厳格な禁止措置を講じていました。その後、ルールをテキストやコードを含むすべてのAI生成コンテンツに拡大しました（ただし、言語の壁を理由に非英語話者を不当に罰しないよう、単なる翻訳には例外を設けています）。ルールがコード（ペイントソフトウェア用のプラグインなど）にも及んだ際には、一部の人々を中心に多少の議論が起きましたが、全体としては静かに受け入れられました。私たちのケースでは、AIがアートコミュニティ全体に与えた損害を考慮すると、AIを禁止し、それに反対の立場を明確にするのはある意味で当然のことでした。たまにプラグイン作成者から不満の声が上がりますが、「あなたの好きなようにして構いませんが、当フォーラムへの投稿は禁止です」と伝えています。これに対して、大半の人は納得しています。時折、「AIを認めなければあなたのソフトウェアは時代遅れになる」といった、ルール変更を迫るための脅迫やFOMO（取り残される恐怖）、罪悪感の誘発を試みる声もありますが、基本的には静かな状態が続いています。
モデレーションについては、主にコミュニティに依存しています。AI生成コンテンツを報告するための特別なフラグを用意しています。審査においては、不信感や疑心暗鬼の蔓延するコミュニティを作りたいとは考えていないため、まずはすべてのユーザーを無罪推定します。AI生成であることを明確に証明できない限り、そのコンテンツは通常、掲載を許可しています。ユーザーの作品がAI生成のように見えるという理由だけで、実際には人間が作成した作品であるにもかかわらず、誤って無辜のユーザーをBANするような「魔女狩り」にはしたくないからです。
幸い、AIユーザーは sooner or later、ジェネレーターの透かしを削除し忘れたり、ファイル名に「gemini generated image」などの文字が残っていたり、スタイルや品質に激しいばらつきがあったりして、自分からAI使用を露呈してしまうことがよくあります。
私はそれを拒否します。AIではないことを証明するために自分の高い基準を落とすことは、さらに一段下がるような気がします。
気になって質問ですが、このGPT-5.5の使用はあなたにとってどれくらいの費用がかかりますか？私はまだDiscourseにAIエージェントを設定していませんが、これは価値があるかもしれません。
この機能は新規/初心者ユーザーや新トピックの作成に特化しているため、常時稼働しておらず、月額1〜2ドルです。
ちょうど5.6テラに変更しましたが、コストはかなり大幅に削減されました。
その通りですね。人間が機械ではないことを証明するために、人間が人間を止めるというのは、そもそも機械ではない人間にとって不自然なことですよね。
この記事を見つけて、Metaのここでこの返信を思い出しました。両方の意見に同意します。実際、私の母語がスペイン語であるため、私もエンダッシュを使うようになりました。