自己免疫による行き過ぎた対応：スパム対策ルールは、コミュニティによる過剰なフラグ付けと見なされ、コミュニティを妨げる可能性がある

みなさん、こんにちは。私は複数の Discourse インスタンスを運用しており、モデレーターおよび管理者の観点から Discourse についてそれなりの経験があります。最近、Discourse フォーラムを運営している新しいコミュニティに参加し（新規ユーザーとして）、活発なトピックにいくつかの投稿を行いました。その中で、少し対立的な点を盛り込んだ内容や、他の投稿者への返信として、私の立場をさらに説明する複数のリンクを含む投稿をしました。しかし、私の最初の 3 つの投稿は「コミュニティによってフラグ付けされた（またはそれに類似した表現）」とされ、「無視」マークが付けられました。さらに、コミュニティガイドラインを参照するよう通知が届きましたが（私の投稿がどのようにガイドラインに違反したのか理解できませんでした）。リンクを含む投稿は、Discourse によって「リンクが多すぎる」として拒否されました。そこで別のアプローチを試み、Discourse インスタンスの外にブログ記事を作成して参照を含め、そのブログ記事へのリンクを返信の 2 回目の試みとして投稿しました。しかし、Discourse から「そのブログはブロックされたサイトである」との通知を受け、投稿を保存・投稿することができませんでした。

Discourse の運用経験があるにもかかわらず、Discourse の警告の具体的な表現から、a) 私の投稿は人間のコミュニティメンバーによってフラグ付けされた（つまり、攻撃的またはコミュニティガイドラインに違反していると見なされた）こと、b) 私のブログ URL は人間のモデレーターによってブロックされたこと、という印象を受けました。その結果、サイト全体とそのコミュニティに対して不当に扱われたという強い怒りを感じてしまいました。

しかし実際には、人間のモデレーターが状況をレビューするまで数日かかり、その頃には私はサイトに対して深刻な敵対心を抱いていました。モデレーターからは、フラグ付け、コミュニティガイドラインへの案内、ブログ URL のブロックはすべて Discourse のアルゴリズムによって自動的に行われたもので、人間は関与していないと説明されました。彼らは私の見解ではコミュニティガイドラインに違反していないと判断し、「無視された投稿」を復元するとともに、ブログへのリンク機能を解除しました。さらに、今後の問題を減らすために私の信頼レベルを引き上げました。また、私のネガティブな経験について謝罪し、もし自分たちが同じ立場だったら同じように不快に感じたであろうとも同意しました。

Discourse からの警告の表現は曖昧だと感じました。今後、このような誤解を避けるため、Discourse のアルゴリズムが実行するスパム対策機能や報告機能の表現を調整し、これらの措置が自動スパム対策アルゴリズムによってトリガーされたもので、人間との対話ではないことが明確になるよう改善することを強く望みます。

同じ外部ドメイン（URL）へのリンクを多数張っていたようですね？

特に、新規ユーザーがアカウント作成から24時間以内に、同じURLを含む多くの新規投稿を作成した場合、ご指摘のような事態が確実に発生します。

確実にお答えするには、もう少し詳細な情報が必要です。

はい、その通りです。コミュニティで FOSS ツールを使いたいという方に向けて、私のブログの特定の投稿を紹介していたのですが、後から気づいたのですが、最近登録したユーザーが投稿に多くのリンクを含めたため、その投稿がブロックされていました。その部分自体は問題ではありません。問題なのは、システムメッセージの曖昧さです。当初、私は（「無視された」投稿に関するシステムメッセージと同様に）それらのメッセージから、私のサイトや投稿がコミュニティメンバーからの通報（フラグ付け）によってブロックされたのだと誤解していました。

メッセージの表現は、誰が行動したかについて曖昧でした。後になって、これはサイト利用者やサイトのモデレーターによるものではなく、Discourse システムによる完全な自動アルゴリズム処理であることが分かりました。

ご理解いただき、ご指摘ありがとうございます。スパマーからコミュニティを守りつつ、新規ユーザーが自由に投稿できるようにするバランスを取るのは難しいことです。

私もこれは良いアイデアだと思います。理想的には、ユーザーが自分が対象となった行動を簡単にレビュー対象としてフラグ付けできる仕組みがあるべきです。

参考までに、

Discourse は、新規ユーザーの投稿を検出・フラグ付けする際、そのバランスを非常にうまく取っていると思います。スパムは以前の vBulletin フォーラムに比べてはるかに少なく、対応にも時間がかからず、維持すべきカスタムコードも少なくて済んでいます。

確かに、新規ユーザーがコードやログファイルの内容をコピー＆ペーストして助けを求めようとした際、投稿が「入力が速すぎる」などの理由でフラグ付けされることがよくあります。しかし、これはバグではなく、機能として捉えています。

スパムの検出と管理は容易ではないタスクですが、現状において Discourse はよくやっていると思います。

言葉選びは非常に重要です。大手企業でもこれを失敗することはあります。私は最近、Uber Eatsを利用しようとしたのですが、海外在住のためシステムにフラグが立てられました。しかし、それはどちらかというとシャドウバンに近いもので、スパム対策の仕組みについての言及は一切なく、一般的なエラーメッセージが表示されるだけでした。そこで、私は彼らの「サポートセクション」に罵倒めいたメッセージを大量に送りつけました。誰も読むはずがないと思っていたのですが、実際に返信が来て、ようやく食事が届きました。彼らにはブロック解除のための明確なプロセスが存在していたようですが、UI からそこにたどり着く方法は不明瞭でした。私は、このようなディストピア的な「コミュニティガイドライン」という新語は一般的に避けるべきだと考えます。代わりに、「スパム対策の仕組みに引っかかりました。スパムでないことを証明するために CAPTCHA を入力してください」あるいは「モデレーターに直接、これがスパムでない理由を説明する個人的なメッセージを送ってください」と伝えるべきです。明確な救済手段や、どのルールが違反されたのかを明示しないまま、大手テック企業が「コミュニティガイドライン」といった言葉を使うのは非常に悪質です。私はこれが彼らの eventual demise（最終的な崩壊）につながるだろうと考え、概念的にも言語的にも、このようなものからできる限り距離を置くのが最善だと考えます。

場合によっては、ユーザーに対して実際に何が発生したかをより詳細に説明するメッセージを表示すべきだと賛成します。

モデレーションにおける透明性は非常に重要です。ユーザーが何か誤った行為を行ったのか、また具体的に何が問題だったのかを理解するためです。したがって、投稿が自動的にフラグ付けされた場合と、ユーザーがフラグ付けした場合のメッセージを区別すべきだと考えます。また、自動化された決定に対する異議申し立ての次のステップ（例：モデレーターに私信を送るなど）をユーザーに提供すべきです。

TL0 フラグ付けの場合、特にこの対応が必要です。ディスコースシステムにまだ慣れていない新規ユーザーに影響を与えるため、このような曖昧なメッセージに不満を抱く可能性があるからです。