自身免疫性过度干预:反垃圾邮件规则可能显得过于激进的社区标记,阻碍社区发展

大家好。我运营着多个 Discourse 实例,因此从版主/管理员的角度对 Discourse 有着相当丰富的经验。最近,我作为一个全新用户加入了一个新的社区(运行 Discourse 论坛),并在一个活跃话题中发布了一些帖子,其中包含了一些(略带)对抗性的观点,并在回复其他用户时发布了一篇包含多个链接的帖子,以进一步阐述我的立场。我的前三篇帖子被“社区标记”(或类似提示),并被标记为“已忽略”。我收到了一条通知,指引我查看“社区指南”……(但我看不出我的帖子哪里违反了这些指南)。我包含链接的那篇帖子被 Discourse 阻止了,理由是链接过多。我尝试了新的方法,在 Discourse 实例之外创建了一篇博客文章来容纳这些参考资料,并在第二次尝试回复时发布了该博客文章的链接。Discourse 告知我,我的博客是“被屏蔽的网站”,因此我的帖子无法保存/发布。

尽管我对 Discourse 很熟悉,但从 Discourse 警告的具体措辞中,我得到的印象是:a) 我的帖子被(即被视为冒犯性/违反社区指南的)人类社区成员标记了;b) 我的博客网址被人类版主屏蔽了。这让我对整个网站及其社区感到相当愤怒,觉得受到了不公正的对待。

结果发现,直到几天后才有真正的版主审查了该情况,而那时,我已经对这个网站产生了强烈的敌意……他们告诉我,标记、指向社区指南的提示以及对我博客网址的屏蔽全部是由 Discourse 算法自动执行的。没有人类参与。他们判定,在他们看来,我并未违反社区指南,并恢复了我“被忽略的帖子”,解除了我链接到博客的限制。他们还提高了我的信任等级,以减少未来的问题。此外,他们也为我的负面体验道歉(并同意,如果换作是他们处于我的位置,也会感到不愉快)。

我发现 Discourse 警告的措辞存在歧义。我非常希望看到 Discourse 算法执行的反垃圾功能和报告机制进行调整,明确表明此类措施是由自动化反垃圾算法触发的,属于非人工交互,以避免未来再产生此类负面情绪……

3 个赞

看起来您多次链接到了同一个外部域名(URL)?

这确实会触发您所描述的情况,当新用户创建大量包含相同 URL 的新帖子时。尤其是如果这种情况发生在账户创建后的前 24 小时内。

为了让我能够确认,您需要提供更多细节。

是的,情况确实如此——我之前曾引导一位希望在其社区中使用自由开源软件(FOSS)工具的用户查看我博客上的特定帖子……后来我才意识到,该帖子被屏蔽是因为新注册用户发布的帖子中包含过多链接。这部分并非问题所在;真正的问题在于系统消息的表述存在歧义。我最初(连同那些告知我帖子被“忽略”的系统消息)误以为我的网站和帖子是因社区成员举报(标记)而被屏蔽的。

我发现这些消息在指明“行为主体”时表述含糊——我后来才弄清楚,这完全是 Discourse 系统的自动化算法行为,而非网站用户或网站管理员所为。

4 个赞

我理解,也感谢你提出这个问题。这确实是在保护社区免受垃圾信息骚扰和允许新用户自由发布内容之间寻求平衡。

2 个赞

我同意这是一个好主意,理想情况下应提供一种方式,让用户能够轻松标记他们遇到的任何操作以供审查。

1 个赞

仅供参考,

我认为 Discourse 在检测并标记新用户帖子方面很好地做到了“把握平衡”。与我们的旧版 vB 论坛相比,垃圾信息问题要少得多(处理起来花费的时间更少,需要维护的自定义代码也更少)。

是的,我们经常会看到新用户的帖子被标记,因为他们将代码或日志文件信息复制粘贴到新帖子中寻求帮助,结果帖子被标记为“输入过快”或类似原因。但我们认为这是一个特性,而非缺陷。

检测和管理工作垃圾信息并非易事,就目前的状况而言,我认为 Discourse 做得相当不错。

我认为措辞非常重要。大公司在这方面也常常搞砸。我最近想使用 Uber Eats,但因为我在海外,他们的系统将我标记了。但这更像是一种“影子封禁”:没有任何关于反垃圾机制的说明,只有通用的错误信息。于是我开始在他们的“支持版块”里疯狂发送辱骂内容。我本以为没人会看这些,结果竟然收到了回复,最终也吃上了饭。他们显然有解封的流程,但从用户界面(UI)上根本看不出如何进入该流程。我认为这种关于“社区准则”的反乌托邦式新话应该普遍避免。直接说明即可:您触发了反垃圾保护机制,请完成验证码以证明您不是垃圾发送者;或者请撰写一条私人消息发送给版主,解释为何这不构成垃圾信息。
来自大科技公司的这种“社区准则”说辞,在缺乏明确申诉途径和具体违规说明的情况下,非常恶劣。我认为这将导致他们最终的衰落,因此最好从概念和语言上都尽可能远离这种模式。

3 个赞

在某些情况下,我认为向用户传达的信息应该更具体地说明实际发生的情况。

审核过程的透明度至关重要,这样用户才能清楚自己是否做错了什么,以及具体错在哪里。因此,我认为应当区分“帖子被自动标记”与“用户举报标记”所发送的消息。此外,还应为用户提供下一步操作指引,以便他们对自动化决定提出申诉(例如:私信版主)。

在 TL0 标记的情况下,这一点尤其必要,因为它会影响那些尚不熟悉讨论系统的新用户,他们可能会因这类模糊不清的信息而感到沮丧。

2 个赞