dfabulich
(Dan Fabulich)
1
https://shagunjhaver.com/files/research/jhaver-2019-transparency.pdf
内容审核中的透明度真的重要吗？：Reddit 上内容移除说明对用户行为的影响
当社交媒体平台上的帖子被移除时，用户可能会也可能不会收到解释。这些解释通常包含哪些内容？它们是否重要？基于 3200 万篇 Reddit 帖子的样本，我们分析了提供给用户的移除说明，并将其与后续用户行为指标（包括未来的帖子提交和未来的帖子移除）进行关联。
采用主题建模方法，我们发现移除说明通常包含有助于用户了解社区社会规范的信息，从而（理论上）帮助他们成为更有成效的成员。我们构建了回归模型，证明移除说明在影响用户未来活动方面确实发挥作用。最重要的是，我们表明，为内容审核提供解释可以降低未来帖子被移除的可能性。此外，由人工审核员提供的解释在减少未来帖子移除方面，并未显示出比机器人提供的解释具有显著优势。
我们提出了一些设计解决方案，以促进解释机制的高效使用，并探讨自动化工具如何在这一领域发挥作用。总体而言，我们的研究结果表明，移除说明在当前的审核实践中可能未被充分利用，社区管理者投入时间和资源来提供这些解释可能是值得的。
9 个赞
AstonJ
(AstonJ)
2
（顺便提一下，我并没有读过那篇论文的内容，所以这仅是对 Moderation 及其透明度的一般性评论。）
Discourse 已经非常出色，优于大多数论坛软件——用户会收到大多数 Moderation 操作的通知。不过，我觉得我们确实可以进一步扩展 Moderation 功能。
举个例子，我们通常会从帖子中删除不当用语或人身攻击，但有些用户对此表示不满，要求我们不要直接修改他们的帖子，而是请他们自行修改。
当然，这并不现实——Moderator 删除人身攻击的初衷，正是为了让被攻击者看不到这些内容，从而避免事态升级。此外，Moderator 也没有时间去私信用户要求他们修改、记录事件、记得后续检查、再次私信用户，或者在他们未按要求修改时采取其他措施——这对 Moderation 团队来说负担太重了。
另一种方案是使用举报系统来隐藏帖子，但如果用户只是取消隐藏，或者没有做出恰当的修改，那该怎么办？我们仍然需要记录并检查、再次取消隐藏，等等。（此外，将帖子从视图中移除还有其他负面影响：可能会减缓对话的流畅性，让用户觉得发帖太麻烦，等等——而这些通常可以通过一次简单的 Moderation 编辑来避免。）
我坚信，Discourse 完全有能力像在其他论坛软件功能方面一样，将 Moderation 提升到新的高度。不过，这需要比单篇帖子或单个线程更多的思考——Moderation 确实很难（没人喜欢被 Moderation！）
我很乐意参与此类讨论，我相信 @HAWK 在这方面也会提供极大的帮助。
6 个赞
这有点取决于具体情况。
对于像种族主义、性别歧视或偏激的辱骂等严重问题，我认为将这种“有毒垃圾”留在原地持续毒害社区毫无价值，例如：
对于较轻的违规行为，当然可以编辑，然后在帖子下方留下工作人员说明。
6 个赞
AstonJ
(AstonJ)
4
我完全同意——我在我们的工作人员房间里也记录了这一点：
大家好，
最近有一位成员公开了自己的身份（_____）。虽然他们不太可能受到社区中任何真实成员的骚扰，但有些人可能出于对 [论坛主题] 或社区的不满，将他们视为容易攻击的目标，或借此制造社区间的冲突。
- 如果发帖者是“新用户”（即最近注册且发帖极少的人），且发表了任何种族主义、跨性别恐惧、恐同或性别歧视言论，请立即封禁其账号，并删除所有违规帖子。封禁通知可简单写为：“评论违反我们的行为准则”。
- 如果发帖者是常规成员，请删除违规帖子，并通过私信通知用户，告知帖子已被删除是因为我们认为其违反了我们的规定，并请求其在管理员团队审查情况并直接联系他们之前，不要再在该线程中发帖（或联系涉及的其他用户）。如果他们无视此通知，继续在该线程发帖或继续发表攻击性言论，请暂停其账号，并附上消息：“未遵守版主请求，待管理员审查。”
之后，请将任何事件记录在此线程中，我们将逐一审查每个案例，以确定是否需要采取行动。如果我不在，而问题仍在持续（例如，有人在相关或其他线程中就该问题展开争论），请直接锁定该线程，并附上“待管理员审查”的通知。
其他方面就比较棘手了——我现在要去睡觉了，但明天会尽量回来继续讨论。
（顺便问一下，这些工作人员备注是公开可见的，还是只有发帖人能看到？）
2 个赞
您可以通过扳手菜单自行为帖子添加员工公告，并查看…
6 个赞
HAWK
(Hawk)
6
我们并不想规定人们如何管理他们的社区，我们只是想提供工具，让他们能够按照自己的意愿进行管理。
所以我很好奇——有哪些方面可以做得不同？你可以隐藏内容，也可以取消隐藏；你可以删除内容；你可以授权社区成员隐藏内容；你还可以添加工作人员公告。
4 个赞
AstonJ
(AstonJ)
7
我能看到你，Jeff！
关于此类通知，我们几乎肯定不会将其用于任何形式的用户管理，因为我们希望尽可能避免公开让用户难堪（或训斥）。只有在别无选择的情况下（例如，他们的行为或举止越来越多地影响到论坛上的更多人时），我们才会更公开地处理用户问题。
如果这些通知只能被该帖子的创建者看到，那么在确保他们能明显意识到只有自己能看见的前提下，我们可以在某些情况下使用它们。
我们为何采取这种做法？因为人们讨厌被管理，更讨厌被公开“羞辱”——这可能会让人非常恼火（甚至有点不尊重——如果某人真的犯了错误，就不应该让他们在全社区面前觉得自己像个傻瓜）。这样冒犯用户可能会在将来引发巨大问题：如果他们因此感到被冒犯，将永远无法释怀，这会加剧未来的问题，甚至可能导致社区内部矛盾，或使他们与管理员关系破裂（不幸的是，这种情况往往没有好结果）。最坏的情况下，他们可能会离开或被封禁，进而发动更具恶意的攻击。这完全不值得，尤其是当你原本 reasonably 确信他们是一个真诚的用户时。
我同意——我只是觉得目前这些工具似乎仍然反映了传统的管理方式（当然也有一些改进），但我认为可能存在更好的方法（就像你们在 DC 团队为论坛软件的其他领域所展示的那样）……我们只需要找出那条更好的路径。
这是一个非常庞大的话题，但我认为目前我们需要重点关注的主要是让管理尽可能令人容易接受，同时又不给管理团队带来负担。
不幸的是，我目前没时间深入探讨更多细节，但也许新年过后很乐意再就此深入交流？
2 个赞
HAWK
(Hawk)
8
我承认那确实是我做的。
我花了数月时间思考这个问题（同时回顾了我们在迁移到 Discourse 之前对 SitePoint 的审核方式），我觉得我们在那个特定论坛上通过利用现有工具驱动的新流程，已经达到了一个非常好的状态。我们几乎推翻了所有旧做法，从头开始，这确实 overdue 了。
我不确定我们需要解决哪些尚未被解决的审核问题，因此我非常期待听到你的想法。我承认，跳出你个人管理过的社区范畴去思考确实不容易，但我认为从实际问题出发，而非基于假设，这一点至关重要。
同上。新年听起来不错。
7 个赞
dfabulich
(Dan Fabulich)
9
这个帖子有点跑题了，但我觉得我们从这篇文章中应该得出的主要观点是：私下向发布违反指南内容的用户解释其内容为何被删除是值得的。研究表明，提供的细节越多越好。
具体来说，如果某人的内容因 N 人举报而被删除，我认为目前的自动消息对用户说的是“您的帖子因 N 人举报而被删除”；该消息并未说明该帖子可能违反了哪些社区准则。
这只是一个例子。我认为整体要点是：删除操作应附带帖子被删除的原因，这些原因应能让用户据此修改或修复帖子，即使（尤其是）这些原因只是从下拉菜单中选择的标准解释。
2 个赞
这是不准确的。它会根据举报对话框提供举报类型的相关信息，例如：离题、不当内容、垃圾信息或“其他”。
5 个赞
dfabulich
(Dan Fabulich)
11
“不当”这个词需要更多的结构支撑，我说。“你什么意思，不当？！这帖子完全没问题！”
3 个赞
