# Discourse AI中的NSFW检测的下一步
**URL:** https://meta.discourse.org/t/what-s-next-for-nsfw-detection-in-discourse-ai/320653
**Category:** Announcements
**Tags:** automation, ai, ai-nsfw
**Created:** [2024年八月8日 03:18 UTC](https://meta.discourse.org/t/what-s-next-for-nsfw-detection-in-discourse-ai/320653 "2024-08-08T03:18:27Z")
**Posts on this page:** 6
**Page:** 1
### Author:  [@Saif](https://meta.discourse.org/u/Saif)
#### Post date: [2024年八月8日 03:18 UTC](https://meta.discourse.org/t/what-s-next-for-nsfw-detection-in-discourse-ai/320653/1 "2024-08-08T03:18:27Z")
如果您[看过我们之前的公告](https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283)，您就会知道我们正在转向偏好使用大型语言模型（LLM）解决方案，因为它们提供了更优越的体验。~~因此，不久我们将弃用 NSFW 模块，转而使用 [Discourse AI Post Classifier - Automation rules](https://meta.discourse.org/t/discourse-ai-post-classifier-automation-rule/281227)~~ _(见下文更新)_
### 我们为什么要这样做？
原因相同……
> [@Saif](#):
>
> 以前使用 Toxicity 模块意味着……
>
> - 您只能使用一个预定义的模型
> - 无法针对您社区的特定需求进行自定义
> - 令人困惑的阈值指标
> - 次优的性能
>
> LLM 已经取得了长足的进步，现在可以提供性能更好且可自定义的体验。
### 有什么新内容？
> [@Saif](#):
>
> [https://meta.discourse.org/t/discourse-ai-post-classifier-automation-rule/281227](https://meta.discourse.org/t/discourse-ai-post-classifier-automation-rule/281227) 可用于对帖子进行毒性（以及其他方面）分类，并强制执行社区特定的行为准则。这意味着……
>
> - 支持多种 LLM 以满足不同的性能要求
> - 轻松定义内容应如何被处理
> - 可自定义的提示以满足社区的特定需求
> - 标记内容以供审核
>
> 以及更多。
>
> 为了协助过渡，我们已经编写了指南
>
> - [在您的社区中设置毒性/行为准则检测](https://meta.discourse.org/t/setting-up-toxicity-code-of-conduct-detection-in-your-community/320257)
> - [在您的社区中设置垃圾邮件检测](https://meta.discourse.org/t/setting-up-spam-detection-in-your-community/300427)
> - [Setting up NSFW detection in your community](https://meta.discourse.org/t/setting-up-nsfw-detection-in-your-community/330196?u=saif)
### NSFW 会怎么样？
~~此公告应被视为 **非常早期** 的通知，在准备好弃用之前，您可以继续使用 NSFW。届时，我们将弃用该模块，并从 Discourse AI 插件和相关服务器服务中删除所有代码。此弃用 **仅** 在 AI Triage 准备好处理图像之后才会发生，这很快就会完成。~~
👉🏾 **更新：** NSFW 模块现已正式从 Discourse 中移除，包括所有相关的站点设置和功能。我们现在敦促用户过渡到使用 [Discourse AI - AI triage](https://meta.discourse.org/t/discourse-ai-ai-triage/281227) 并遵循上述指南。
企业客户将在其站点的管理设置的“新内容”下看到以下内容，允许他们启用 Discourse 托管的 LLM 以零额外成本为 AI 审理提供支持。
---
### Author:  [@Saif](https://meta.discourse.org/u/Saif)
#### Post date: [2024年八月22日 02:47 UTC](https://meta.discourse.org/t/what-s-next-for-nsfw-detection-in-discourse-ai/320653/2 "2024-08-22T02:47:36Z")
关于以下更改的通知
> [@Saif](#):
>
> 由于 @Roman\_Rizzi 在改进提示方面所做的工作，人工智能分诊 **不再** 需要以下内容：
>
> > [@sam](#):
> >
> > 它应该包含一个 `%%POST%%` 占位符，该占位符将被帖子内容替换。
---
### Author:  [@Saif](https://meta.discourse.org/u/Saif)
#### Post date: [2024年十月8日 15:04 UTC](https://meta.discourse.org/t/what-s-next-for-nsfw-detection-in-discourse-ai/320653/3 "2024-10-08T15:04:53Z")
> [@Saif](#):
>
> AI Triage 已准备好处理图像，这将很快完成。
这部分现已完成，请通过 AI Triage 配置和使用支持视觉的 LLM 来进行图像检测
提醒一下，我们尚未弃用 NSFW 模块。这还需要一些时间。
---
### Author:  [@Saif](https://meta.discourse.org/u/Saif)
#### Post date: [2024年十月10日 04:34 UTC](https://meta.discourse.org/t/what-s-next-for-nsfw-detection-in-discourse-ai/320653/4 "2024-10-10T04:34:13Z")
这里有一份新指南：
> [@Setting up NSFW detection in your community](https://meta.discourse.org/t/setting-up-nsfw-detection-in-your-community/330196):
>
> bookmark This is a guide for setting up NSFW content detection in your community using Discourse AI automation to identify and moderate inappropriate images and text. person_raising_hand Required user level: Administrator Setting up NSFW detection in your community Automatically detect and moderate NSFW (Not Safe for Work) content in your Discourse community using AI-powered automation. This guide will help you configure automated detection for both inappropriate images and text content…
---
### Author:  [@Saif](https://meta.discourse.org/u/Saif)
#### Post date: [2024年十月29日 20:28 UTC](https://meta.discourse.org/t/what-s-next-for-nsfw-detection-in-discourse-ai/320653/5 "2024-10-29T20:28:22Z")
温馨提示，我们现在将隐藏用于启用/禁用“毒性”和“NSFW”的网站设置。这是我们持续弃用这些功能的努力的一部分。
如果您已开启这些功能，它们将继续正常运行。我们尚未完全弃用这些功能。
如果您已关闭这些功能但希望重新开启，现在将无法进行操作。
---
### Author:  [@Saif](https://meta.discourse.org/u/Saif)
#### Post date: [2024年十二月5日 23:16 UTC](https://meta.discourse.org/t/what-s-next-for-nsfw-detection-in-discourse-ai/320653/6 "2024-12-05T23:16:23Z")
各位朋友，在此发布此更新
> [@Saif](#):
>
> 👉🏾 **更新：** NSFW 模块现已正式从 Discourse 中移除，包括所有相关的站点设置和功能。我们现在敦促用户迁移到使用 [Discourse AI - AI triage](https://meta.discourse.org/t/discourse-ai-ai-triage/281227) 并遵循上述指南。
>
> 商业和企业客户将在其站点的管理员设置中的“新增功能”下看到以下内容，允许他们启用 Discourse 托管的 LLM 以零额外成本为 AI 自动分诊提供支持。
>
> 