AI 标记过于敏感

我找不到任何关于此事的具体信息。

当我自动标记有毒帖子时(我想要这个功能,因为我希望我的社区互相尊重且安全),它的敏感度太高了,竟然标记了一个有人称电视节目“愚蠢”的帖子。

它设置为 80。我刚刚将其增加到 90。但是,没有任何文档说明最大值是多少(我猜是 100),以及我需要将其设置为多少才能避免过于简单的误报,同时又能保护我的社区?

谢谢!

3 个赞

@Shauny,我们收到报告称 Discourse AI 插件中当前的毒性模块提供程序对大多数社区来说确实过于敏感。

为了解决这个问题,我们刚刚实现了使用新的大型语言模型作为分类器来标记内容的功能,这将使社区管理员能够根据适合其社区的敏感度来定制标记的敏感度。

我们还没有关于这个全新功能的指南,因为我们正在努力编写中,但当我们有指南可以分享时,我会在这里通知你。

7 个赞

我们刚刚发布了一份关于检测垃圾信息(spam)的指南。您可以通过 启用 AI 机器人 来自定义提示,以帮助查找敏感内容!

1 个赞