观看中的话语/标记 - 寻求建议

[RobMeade]

大家好，

我想向那些比我更久以来一直监督/管理社区网站（我只有几年经验）的各位寻求一些建议和指导。

我们的社区非常多元化，吸引了来自世界各地、不同文化、语言、信仰、性别和年龄的人——在这里填入任何受保护的特征，我相信我们都有代表，这太棒了！

为了保持环境的整洁，我在一年多以前添加了一系列被监控的词汇。这些通常是脏话，很难在不直接使用的情况下描述它们，但其中一些属于“强烈”类型，而另一些对某些人来说可能只是日常用语。此外，我还添加了一些可能被用作种族或同性恋侮辱/辱骂的术语。

我发现很难确定哪些脏话应该被列入监控列表，哪些不应该。在不采取任何行动并等待有人提出异议的情况下，很难衡量他人的容忍度或他们对冒犯性/不适当内容的接受程度。

今晚，我注意到 Discourse 系统在被监控词汇列表触发并将话题标记为不适当后，会自动发送模板化的消息。在一个例子中，有人列出了一系列与性取向相关的术语，其中一项因触发监控词汇列表而被标记，系统随之发送了消息。当我看到发送的消息时，它声称社区中有许多人标记该话题为不适当，而事实上，这仅仅是因为它触发了列表中的一个词。

不用说，针对所使用的术语，这条消息显得有些过于严厉。我意识到可以修改模板消息，但我想请教一下：是否存在某些情况下，这些消息确实是基于标记数量发送的？还是说这些措辞只是被写得非常强硬，以起到更强的威慑作用？

我现在面临的选择是：是修改消息内容，还是从监控词汇列表中移除某些词。问题在于，其中一些词可能在对话中被合法使用。我添加它们是为了让版主能够“在上下文中”审查该术语，并在同意或拒绝标记后根据需要编辑话题。当时，我并不知道会向用户发送这些消息，所以觉得这样做是正确的。虽然这会增加一些管理任务，但并不常见，因为一般来说，我们的社区非常礼貌：slight_smile

我们目前使用的流程大致如下：

• 检查被标记的话题
• 将脏话用星号遮盖
• 同意标记，但选择“保留”该帖子

上述方法允许我们看到用户有多少次话题被标记（例如，屡犯者），同时也允许我们采取更温和的方式来解决。如果我们发现这些屡犯者有大量被标记的话题，我们可以随后根据具体情况逐个/个性化地处理。

我注意到设置中还有一个“审查”选项，我也可以在那里添加词汇。我还没有尝试过，但我猜想我们不会收到这些词汇的通知/标记，它们只会被自动替换为星号，而且用户的个人资料上也不会显示任何标记记录？

正如我所说，我们拥有一个极好的社区。我相信，大多数情况下，脏话的使用源于人们在新的学习过程中遇到挫折时的发泄。他们的帖子因此获得了“宣泄”的机会。我也可能对我们的年轻受众稍显保护。我们年轻成员的数量屈指可数，但我确实知道有一些，我希望为他们保持环境“友好”——我也完全明白，他们可能比我懂得更多的词汇（甚至更糟糕的词汇！）：)

所以，我想我上面提出了几个问题，抱歉如果有些啰嗦。有人能就如何预防/管理脏话、种族或同性恋侮辱/辱骂提供比上述更好的流程建议吗？

我几乎希望有一个额外的选项：针对那些可能在日常对话中使用的词汇，只需要有人查看以确保上下文没问题，但在判定上下文不良并采取行动之前，不向用户发送任何类型的消息。

我在上面尽量谨慎，没有直接使用我们在监控词汇中提到的任何词，因此对于缺乏具体示例/场景，我深表歉意。

另外我要补充一点，我个人并不觉得其中许多内容具有冒犯性，我只是试图意识到我们每个人都不同，即使一个人说话时没有恶意，也“可能”导致其他人感到被冒犯。

任何想法、建议或意见都欢迎——提前感谢

[awesomerobot (Kris)]

I see what you mean, a separate flag message (or substitution of part of the existing message) for watched words would be useful.

Here’s the portion of irrelevant text we send when a watched word is auto-flagged:

Multiple community members flagged this post before it was hidden, so please consider how you might revise your post to reflect their feedback.

That’s true when a post is flagged by users, as it often requires multiple user flags before being auto-hidden, but with watched words your post is auto-hidden immediately.

---

You could alternatively use the “require approval” variety of watched words and change that message. By default new users don’t need any posts approved, so unless you changed that setting the require approval message can be specifically customized for the watched words case.

You could modify this to say something like “We’ve received your new post but it contains a word that is sometimes used to offend others. A moderator will review your post before it’s published.”

[RobMeade]

Hi Kris,

Thank you for your reply, appreciated

I see what you mean, a separate flag message (or substitution of part of the existing message) for watched words would be useful.

Yeah, a kind of soft approach, working in the same way as the flagging, but without a message going out to the user until a decision/action has been taken perhaps, but still providing the same options to the moderator/administrator for keeping the post, deleting the post, editing the post etc.

The paragraph you highlighted from the email was in fact the very one which one community member copy and pasted back to us to query.

Thanks for the idea regarding the Requires Approval, I obviously wouldn’t want to delay anyone’s posts too much, despite being on the forum pretty much every day there could be a number of hours before I return, this could clash with region time zone differences too and give the user a less than satisfactory experience.

Out of interest, when a post is flagged as requiring approval, are the options to then only approve/disallow? As mentioned above, it has been useful to have individuals flagged so that we could potentially identify repeat offenders. If someone triggered the Needs Approval based on a term - what are the outcomes of the moderators/admins response? e.g. is the user still flagged in any way? Are the options different from those you see when a post is currently flagged as inappropriate?