モデレーションにおける透明性は本当に重要です

コミュニティ
1

https://shagunjhaver.com/files/research/jhaver-2019-transparency.pdf

コンテンツモデレーションの透明性は本当に重要か？：Reddit におけるコンテンツ削除の説明後のユーザー行動

ソーシャルメディアプラットフォームで投稿が削除されるとき、ユーザーは説明を受け取る場合もあれば、受け取らない場合もあります。どのような説明が提供されているのでしょうか？それらの説明は意味を持つのでしょうか？3200 万件の Reddit 投稿のサンプルを用いて、Redditors に提供される削除説明の特徴を分析し、それらを将来のユーザー行動（将来の投稿提出や将来の投稿削除など）の指標と関連付けました。

トピックモデリングのアプローチを採用し、削除説明がコミュニティの社会的規範についてユーザーを教育する情報を提供し、それによって（理論的には）彼らが生産的なメンバーになる準備をさせることを示しました。さらに、削除説明が将来のユーザー活動に役割を果たすという証拠を示す回帰モデルを構築しました。最も重要なのは、コンテンツモデレーションに対する説明を提供することが、将来の投稿削除の確率を低下させることを示した点です。さらに、人間によるモデレーターが提供する説明は、ボットが提供する説明よりも将来の投稿削除を減らす上で有意な優位性を持たないことがわかりました。

私たちは、説明メカニズムの効率的な利用を促進する設計ソリューションを提案し、自動化されたモデレーションツールがこの分野にどのように貢献できるかについて考察します。全体的に、私たちの知見は、削除説明がモデレーションの実践において十分に活用されていない可能性を示唆しており、コミュニティ管理者がそれらを提供するために時間とリソースを投資することが潜在的に価値があることを示しています。

「いいね！」 9
2019: The Year in Review
Suggestion for posts hidden by community flags
2

（念のため言っておくと、私はその論文の内容は読んでいません。これはモデレーションとモデレーションの透明性に関する一般的なコメントに過ぎません。）

Discourse はすでに非常に優れており、ほとんどのフォーラムソフトウェアよりも上回っています。ユーザーはほとんどのモデレーターによるアクションについて通知を受け取ります。しかし、モデレーション機能をさらに充実させることができるはずだと感じています。

具体例を挙げると、私たちは投稿から不適切な表現や個人攻撃を routinely 編集して削除しています。これに対して一部のユーザーから苦情が寄せられ、「変更を自分で行うように求められ、投稿自体には手を加えないでほしい」という要望が出されています。

もちろん、それは現実的ではありません。モデレーターが個人攻撃を削除する主な理由は、攻撃の標的となっている人がそれを見て、事態が悪化するのを防ぐためです。また、モデレーターには、ユーザーに変更を促す私信を送り、その事案を記録し、確認を忘れずに再チェックし、変更が行われていない場合はさらに別の対応をするという、あまりにも負担の大きい作業を繰り返す時間はありません。

別の選択肢として、フラグシステムを使って投稿を非表示にする方法もありますが、ユーザーがそのまま非表示を解除したり、適切な変更を行わなかった場合はどうなるでしょうか？それでも確認を記録し、再度非表示にするなどの作業が必要になります（さらに、投稿を閲覧不可にするには他のデメリットもあります。会話の流れを遅くしたり、投稿することが面倒だと感じさせたりする可能性があります。これらは通常、ごく簡単なモデレーター編集で回避できます）。

私は、Discourse が他のフォーラムソフトウェアの機能と同様に、モデレーションを次のレベルへと引き上げられると確信しています。ただし、それは単一の投稿やスレッドだけで決まるものではなく、より多くの検討が必要です。モデレーションは難しいものです（誰もモデレーションされるのは好きではありませんからね！）。

私はこうした議論に参加することを喜んで行いますし、@HAWK さんもこのような取り組みには不可欠な存在だと確信しています。

「いいね！」 6
3

それはある程度によります。

人種差別や性差別、偏見に満ちた悪口のような重篤な問題については、コミュニティを継続的に汚染する有害な廃棄物を放置する価値はないと思います。例えば：

image
image560×998 403 KB

軽微な違反の場合は、編集してから投稿にスタッフの注意書きを残すのも良いでしょう。

image
image1380×184 25.7 KB

「いいね！」 6
4

完全に同意します。スタッフ室には以下のようなメモを残しています。

皆さんへ、

最近、メンバーの一人が_____であることをカミングアウトしました。誠意あるコミュニティメンバーからは嫌がらせを受ける可能性は低いですが、[フォーラムのトピック] やコミュニティに対して個人的な恨みを持つ誰かが、彼らを容易な標的と見なしたり、コミュニティ間の対立を引き起こす手段として利用する可能性があります。

  • 投稿者が「新規」（つまり、最近登録し投稿数が非常に少ない人）で、人種差別、トランスフォビア、ホモフォビア、または性差別に関する発言をした場合は、直ちにアカウントをBANし、該当する投稿も削除してください。BAN通知は「コメントが行動規範に違反しています」という簡単な内容で構いません。
  • 投稿者が常連メンバーの場合は、該当する投稿を削除し、その投稿がルール違反であるため削除されたことをユーザーに直接メッセージ（PM）で伝えてください。また、そのスレッドでの追加投稿（または、他のユーザーが関与している場合はそのユーザーへの連絡）を、管理チームのメンバーが状況をレビューし、直接対応するまで控えるよう依頼してください。この通知を無視してスレッドへの投稿を続けたり、暴力的な投稿を続ける場合は、「モデレーター要請への不遵守。管理者レビュー待ち。」というメッセージでアカウントを一時停止してください。

その後、すべての事案をこのスレッドにログとして記録してください。各ケースをレビューし、必要な対応を検討します。私が不在で問題が継続している場合（例えば、そのスレッドや他のスレッドで他者がその問題について議論している場合など）は、単に「管理者レビュー待ち」という通知でスレッドをロックしてください。

残りの部分は少し厄介ですね。そろそろ寝ますが、明日にでもこの件に戻ります。

（なお、これらのスタッフ用メモは一般公開されているのでしょうか、それとも投稿者本人のみが見られるのでしょうか？）

「いいね！」 2
5

レンチメニューから投稿にスタッフのお知らせを自分で追加して確認してください…

「いいね！」 6
6

私たちは人々がどのようにコミュニティをモデレーションするかを決定しようとしているわけではありません。あくまで、各自の判断でモデレーションを行えるよう、必要なツールを提供したいと考えています。

そこで気になるのですが、他にどのような方法が考えられるでしょうか？非表示にすることも、非表示を解除することも、削除することも、コミュニティメンバーに非表示機能を与えて活用することも、スタッフの通知を追加することも可能です。

「いいね！」 4
7

ジェフ、私にはあなたが見えます！:smiley:

こうした通知については、可能な限りユーザーを公に恥をかかせたり叱責したりすることを避けるため、ユーザーモデレーションにはほとんど確実に使用しません。ユーザーの行動や態度がフォラム上のより多くの人々に影響を及ぼすようになり、公に対応するしか選択肢がなくなった場合のみ、公にユーザーの問題に対処します。

もしその通知が投稿作成者自身のみに表示されるのであれば、それが自分だけが閲覧できるものであることが明白であれば、いくつかのケースで使用することも可能です。

なぜこのような方針を取るのかというと、人々はモデレーションされること、特に公に「恥をかかされる」ことを最も嫌うからです。それは非常に腹立たしく、ある種の無礼にもなり得ます。もし誰かが真摯な過ちを犯した場合、コミュニティ全体の前でバカのように扱われるべきではありません。このような方法でユーザーを傷つけると、将来的に大きな問題を引き起こす可能性があります。彼らが怒りを感じれば決して忘れることはなく、その感情は将来の問題をさらに悪化させ、コミュニティ内の対立やモデレーターとの不和を招くこともあります（残念ながら、これらは良い結果に終わることはほとんどありません）。最悪の場合、彼らは離脱したりBANされたりして、さらに悪質な攻撃を行うようになるかもしれません。特に、もともと真面目なユーザーだと確信していた場合、そのような対応をする価値はありません。

同意します。現時点では、ツールは従来のモデレーション方法（もちろんいくつかの改善は加えられています）を反映しているように思えますが、もっと良い方法があるはずです（DCの皆様がフォラムソフトウェアの他の分野で示してくださったように）。私たちが取り組むべきは、そのより良い道が何かを明らかにすることです。

これは非常に広範な話題ですが、今私たちが注力すべき主なことは、モデレーションをできるだけ受け入れやすくすること、そして同時にモデレーターチームに負担をかけないことです。

残念ながら、現時点では詳しく説明する時間がありませんが、新年になってからこのことについてもっとお話しできれば嬉しいです:blush:*

「いいね！」 2
8

あのことをしたのは私だと認めます。

私はこのことについて数ヶ月考え続けてきました（Discourse へ移行する前に SitePoint でどのようにモデレーションを行っていたかを振り返りながら）。そして、ここで利用可能なツールに支えられた新しいプロセスを用いて、[その特定のフォーラムについて] 非常に良い状態に到達できたと感じています。私たちはほぼ全てを捨ててゼロから始めましたが、それは遅かれ早かれ必要だったことです。

私たちが解決すべきモデレーション上の問題が、すでに解決されていないものがあるのかどうかはわかりませんので、あなたの考えに大変興味があります。あなたが個別に管理してきたコミュニティの枠組みの外で考えることは難しいと承知していますが、仮定ではなく現実の問題から始めることが重要だと考えています。

私も同じです。新年の会話、楽しみにしています。:slight_smile:

「いいね！」 7
9

このスレッドは少し本題からそれてしまいましたが、この記事から得られる主な教訓は、ガイドラインに反する投稿をしたユーザーに対して、その投稿が削除された理由を非公開で丁寧に説明する価値があるということです。調査によると、説明が詳細であればあるほど良い結果が得られることが示されています。

具体的には、誰かの投稿が N 人のフラグによって削除された場合、現在ユーザーに送信される自動メッセージは「あなたの投稿は N 人によってフラグがつけられたため削除されました」という内容で、投稿がコミュニティガイドラインに違反した可能性のある具体的な理由についての情報は含まれていません。

これは一例に過ぎません。全体的な趣旨としては、投稿の削除には、その理由を明示し、ユーザーがその理由に基づいて投稿を変更・修正できるような情報を提供すべきだという点です。それは、たとえドロップダウンリストから選択された定型文による説明であっても、特に重要です。

「いいね！」 2
10

それは誤りです。フラグのダイアログに応じて、フラグの種類（話題外、不適切、スパム、または「その他」）に関する情報が提供されています。

「いいね！」 5
11

「不適切」にはもっと構造が必要だと思いますよ。えっ、不適切だって？この投稿は全然問題ないですよ！

「いいね！」 3