ここで、モデレーションに関するいくつかの前向きな投稿を読みました。例えば、@codinghorror の投稿はこちらです1。そこで、私もこの件について意見を述べたいと思います。
Twitter1 による最近の開示は、シャドウバンに似たモデレーションツールの使用に関する議論を再燃させました。これらはディスコースにとって良いのか悪いのか？ この投稿で、シャドウバンの使用について、モデレーターとユーザーの間で議論を喚起できればと思います。
私の仮説は、透明なモデレーションは、モデレーターとユーザーがお互いを信頼する準備の整ったユーザーベースを育成し、シャドウモデレーションは解決するよりも多くの問題を引き起こすということです。したがって、シャドウバンなどは、たとえ Discourse のインストールのような「小さな」フォーラムであっても、決して使用されるべきではないと主張します。
自己紹介
私は Reveddit の著者であり、このサイトは Reddit ユーザーに秘密裏に削除されたコンテンツを表示します。Reveddit は 2018 年に立ち上げられ、それ以来、Reddit1、Hacker News1、そして最近では Twitter1 で、シャドウモデレーションと呼ぶシャドウバンに似たツールの広範な使用に反対していることを公言してきました。シャドウモデレーションの何らかの形態が、最も人気のあるプラットフォームすべてで発生していることに疑いの余地がない場合は、Truth and Trust Online 20221 の私の講演（スライド 8-9、5:50）や、Using the Whole Whale1 への出演も参照してください。この慣行が、あらゆる層のユーザーの間で不評であることに疑いの余地がない場合は、Reveddit の FAQ1 で数千人のユーザーの反応を参照してください。
前書き
参考までに、シャドウバンに似た動作の既存の定義をいくつか示します。
- 「投稿者自身には知らされずに、投稿者自身を除いて、誰にも発見されないようにコンテンツを意図的に作成すること」。- Twitter ブログ1
- 「ヘルバンされたユーザーは他のすべてのユーザーには見えませんが、決定的に、本人には見えません。彼らの視点からは、コミュニティに通常どおり参加していますが、誰も応答しません。彼らはもはやコミュニティを妨害することはできません。なぜなら、彼らは実質的に幽霊だからです。」- Coding Horror1
そして、私の定義を 2 つ示します。
-
透明なモデレーション: ユーザーは、自分のコンテンツに対して取られた措置について通知されます。
-
シャドウモデレーション: モデレーターのアクションを、アクションされたコンテンツの作成者から隠すものすべて。
プラットフォームが透明性について話すとき、それは単にポリシーを明確に区別することを意味することに注意してください。これは透明なモデレーションと同じではありません。
そして、はっきりさせておきますが、私は透明なモデレーションの使用を支持します。私は、PATA1 が米国で試みているような、プラットフォームに透明性を強制するためのソーシャルメディアへの政府の介入を支持しません。または、欧州の DSA1（それぞれ Platform Accountability and Transparency Act および Digital Services Act）。したがって、プラットフォームがシャドウモデレーションに従事する法的権利も受け入れます。
透明なモデレーションの根拠
透明なモデレーションの根拠は、シャドウモデレーションに対する根拠として最もよく定義されます。
シャドウモデレーションは、被告が告発者に直面する権利を持つという、千年の歴史を持つ概念である人身保護令に反します。人身保護令の価値は、米国憲法で修正条項（第 6 条）として組み込まれていますが、それは私たちが自分自身に期待し、したがって他者に与えるべき基本的な尊厳でもあります。簡単に言えば、秘密の罰は不正です。
さて、「しかし、これらはプライベートなプラットフォームです！」と言うかもしれません。確かにそうです。しかし、プライベートでも、私たちは特定の理想を維持するように努めています。FIRE の Greg Lukianoff がこちらで説明しているように。
ジョン・スチュアート・ミルは『自由論』で同じことを主張し、次のように書いています。「したがって、治安判事の圧政からの保護だけでは不十分です。支配的な意見や感情の圧政からも保護が必要です。」1
さて、「ボットスパムに対処するためにそれが必要だ！」と言うかもしれません。これは短期間しか機能しません。長期的には、ボットはコンテンツの可視性を確認する方法を発見しますが、ユーザーはほとんど発見しません。したがって、透明なモデレーションはボットにとっても同様にうまく機能し、シャドウモデレーションは本物の個人を傷つけるだけです。
「小さなフォーラムでしか使っていない」と言うかもしれません。そこで、欺瞞に頼る必要があるのかと尋ねます。小さな Discourse インストールでシャドウモデレーションに慣れることは、より大きなプラットフォームでの使用をサポートするためのステップになる可能性があります。そして、そこでの害は私には明らかです。あらゆる地理的、あらゆるプラットフォームにおける、あらゆる問題のあらゆる側面が影響を受けています。Reddit ユーザーの 50% 以上が、最後の月にコメントのいくつかを削除されています。それは、憎悪が「解き放たれた」場合に何が起こるかという恐れから、数え切れないほどの会話を中断しています。しかし、Reveddit は 4 年間存在しており、それは起こっていません。代わりに、私が観察したのは、より健全なコミュニティであり、その多くの例を私の講演で紹介しています。
大規模なシャドウモデレーションは、あなたのイデオロギー的な敵を力づけることにもなります。あなたが無作法だと考えるグループは、シャドウモデレーションを無作法に使用する可能性が高いです。そのようなツールを実装する権限を持つ間、あなたが持つどんな利点も時間とともに失われます。そして、シャドウモデレーションを利用する限り、他の場所でのその使用に関する議論に勝つことはできません。
私の知る限り、シャドウモデレーションの影響を研究した研究はほとんどありません。モデレーターのワークロードは透明性が高まるにつれて減少することを示す研究を 1 つ知っています1。しかし、私たちは、閉鎖された社会と比較して、開かれた社会が繁栄することを知っています。
unchecked のままにしておくと、シャドウモデレーションは、そのような保護が利用できない現実世界での会話に備えられていない孤立した部族グループを増殖させます。言葉によって引き起こされる害は、私たちが制御できることの限界を受け入れることに失敗したときに現実であるため、それは暴力行為や自傷行為につながる可能性があります。代わりに、憎悪にカウンター・スピーチで対応し、ユーザーベースに同様のことを奨励することを選択できます。
最後に、新しい法律はこれを解決できません。そのような法律は、私たちの個人の自由を侵害し、(a) 権利章典が保護するために設計されたまさにその主体を力づけるか、(b) 政府があらゆるコードへのアクセスを許可しない限り、透明性を強制する方法がないため、機能しないかのいずれかの意図しない結果をもたらします。したがって、あなたは元の場所に戻るか、開始したときよりも悪い状態になります。人身保護令、したがって市民的なディスコースのサポートは、実際の透明なモデレーションに対する文化的なサポートを通じて最もよく達成されます。これに満たないものはすべて、化膿した傷を覆う絆創膏になります。
結論
結論として、「競争相手と同じ土俵で戦うためには、彼がやっているのだから、私もやらなければならない」という立場をとるべきではありません。両方とも足場が悪いかもしれないと考えてください。シャドウモデレーションを使用しない Discourse インストールやその他のフォーラムは、より強力な基盤を持っています。ユーザーベースは準備が整っており、モデレーターとユーザーはお互いを信頼しており、したがって両方ともオープンかつ正直に話すことができます。そして、シャドウモデレーションが広範に使用されていることを考えると、透明なモデレーションを声高に支持することがこれまで以上に重要になっています。
付録
Twitter でのシャドウモデレーションの、まだ報告されていない使用例の 1 つは、特定のリンクへの言及に基づいてツイートが自動的に非表示になる場合です。これは、安価な年間 2 ドルのドメイン .win を購入した新しいブログへのリンクを共有したときに発見しました。Twitter を介して共有した後、私のツイートは私には表示されていましたが、他の人には表示されていませんでした。たとえば、このツイート1 は、私からの返信を表示していません。ボタン「追加の返信を表示」をクリックしてもです。私の返信を見るには、リンクに直接アクセスする必要があります1。実質的に、その返信は、私をすでに知っている人以外には見えません。そして、私がログインしている間、システムはその事実を私から隠しています。
* 広範な検閲が有用であると私が考える唯一の状況は、社会がその害を忘れてしまった場合です。その場合、たとえそれが再びその有害な影響を私たちに思い出させるためだけでも、それは必然的に戻ってきます。