# Discourse AI中的毒性检测下一步是什么 **URL:** \ **Category:** Announcements\ **Tags:** automation, ai, ai-toxicity\ **Created:** [2024年八月7日 16:03 UTC](https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283 "2024-08-07T16:03:30Z")\ **Posts on this page:** 1\ **Showing post:** 1
**Author:** ![Saif](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/saif/32/318253_2.png) [@Saif](https://meta.discourse.org/u/Saif)\ **Post date:** [2024年八月7日 16:03 UTC](https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283/1 "2024-08-07T16:03:30Z")
![一张图片，描绘了一个在风景优美的户外环境中，手持写有“RIP Toxicity”标语的机器人的场景。（由 AI 标注）](https://global.discourse-cdn.com/meta/original/4X/b/d/f/bdf180411d430cf928be1af9cbb4faf91703fc3b.jpeg) 今天我们宣布告别 [Discourse AI - Toxicity](https://meta.discourse.org/t/discourse-ai-toxicity/259215) 模块 👋，转而使用 [https://meta.discourse.org/t/discourse-ai-post-classifier-automation-rule/281227，利用大型语言模型](https://meta.discourse.org/t/discourse-ai-post-classifier-automation-rule/281227%EF%BC%8C%E5%88%A9%E7%94%A8%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B) (LLM) 的强大功能提供更优越的体验。 ### 我们为什么要这样做？ 以前使用 Toxicity 模块意味着…… - 您只能使用一个预定义的模型 - 无法针对您社区的特定需求进行自定义 - 令人困惑的阈值指标 - 性能不佳 LLM 已经取得了长足的进步，现在可以提供性能更好且可自定义的体验。 ### 有什么新功能？ [Discourse AI - AI triage](https://meta.discourse.org/t/discourse-ai-post-classifier-automation-rule/281227) 可用于对帖子进行毒性（以及其他方面）的分类，并强制社区遵守特定的行为准则。这意味着…… - 支持多种 LLM 以满足不同的性能要求 - 轻松定义内容的处理方式和内容 - 可自定义的提示以满足社区的特定需求 - 标记内容以供审核 以及更多。 为了协助过渡，我们已经编写了指南 - [在您的社区中设置毒性/行为准则检测](https://meta.discourse.org/t/setting-up-toxicity-code-of-conduct-detection-in-your-community/320257) - [在您的社区中设置垃圾邮件检测](https://meta.discourse.org/t/setting-up-spam-detection-in-your-community/300427) - [在您的社区中设置 NSFW 检测](https://meta.discourse.org/t/setting-up-nsfw-detection-in-your-community/330196) ### Toxicity 会怎么样？ ~~此公告应被视为 **非常早期** ，在我们准备停用之前，您可以继续使用 Toxicity。当我们这样做时，我们将停用该模块，并从 Discourse AI 插件和相关服务中删除所有代码。~~ 👉🏾 **更新：** Toxicity 模块已正式从 Discourse 中移除，包括所有相关的站点设置和功能。我们现在敦促用户过渡到使用 [Discourse AI - AI triage](https://meta.discourse.org/t/discourse-ai-ai-triage/281227)，并遵循上述指南。 企业客户将在其站点的管理设置的“新增功能”下看到以下内容，允许他们免费启用 Discourse 托管的 LLM 来支持 AI 分类。 ![该图像显示了 Discourse AI 的一个通知，表明 toxicity 和 NSFW 模块已被移除，并被用于 AI 分类的自动化插件所取代。（由 AI 标注）](https://global.discourse-cdn.com/meta/original/4X/f/3/a/f3a159163de0f96f81cd4ddef9266db4030fda1a.png) --- _[View the full topic](https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283)._