 |
摘要 | Discourse Moderation API 插件 通过自动审核功能增强您的 Discourse 论坛。它利用 Moderation API 经过实战检验的检测引擎，并包含一个改进的审核仪表板，可将版主效率提高 10 倍。 |
 |
代码库链接 | https://github.com/moderation-api/discourse-moderation-api |
 |
安装指南 | 如何在 Discourse 中安装插件 |
主要功能
Moderation API 是一个全栈审核解决方案。
自动审核操作
- 自动标记评论和主题。
- 从 20 多个预构建模型中选择，以应对常见用例，或构建您自己的模型。
- 检测毒性、不适宜内容 (NSFW)、个人身份信息 (PII)、垃圾信息、自我推销、非法活动等。
- 设置自动标记的自定义阈值。
LLM 驱动的检测
- 将您的社区准则集成到 AI 代理中。
- 利用 AI 作为第一道防线，或作为值得信赖的版主来标记评论。
自定义模型训练
- 开发您自己的 AI 模型，以获得最高的审核准确性。
- 使用版主操作作为反馈来训练和优化模型。
- 通过机器学习持续增强自动标记功能。
增强的审核队列
- 可选地使用 Moderation API 的审核队列，以获得流畅现代的审核体验。
- 创建针对不同语言、类别或特定目的量身定制的多个审核队列。
- 开发用于升级内容的审核工作流。
- 将版主分配到特定的审核队列以进行高效管理。
仪表板分析
- 通过 Moderation API 仪表板监控 AI 活动和结果。
- 深入了解常见问题，并确定需要改进的领域。
无缝集成
- 可轻松与现有的 Discourse 工作流和用户角色集成。
- 在 Discourse 审核队列或 Moderation API 的审核队列之间进行选择。
- 利用 Discourse 的内置审核操作。
配置
请按照以下步骤配置 Moderation API 插件：
在 Moderation API 中创建项目
- 导航到您的 Moderation API 仪表板。
- 创建一个新项目并选择您希望检测的标签。
(可选) 测试和调整阈值
- 使用阈值滑块确定审核的严格程度。
- 在 playground 中测试 API 响应。
设置 API 密钥
- 在项目仪表板的“集成”下找到您的 API 密钥。
- 在 Discourse 的管理员面板中，导航到“设置”>“Moderation API”。
- 将您的 API 密钥粘贴到“Moderation API Key”字段中。
- 保存更改。
启用插件
- 选择您的标记行为（请参阅下面的选项）。您可以从“无”开始，在不执行任何操作的情况下测试插件。
- 按下“启用插件”以开始分析新帖子。该插件不会分析任何预先存在的内容。
(可选) 添加您的社区准则
- 转到 Moderation API 中的“模型工作室”。
- 创建一个新的 AI 代理。
- 将您的准则作为规则纳入代理。如果您有广泛的准则，请考虑创建多个代理。
- 将代理添加到您的项目中。
标记行为
该插件提供四种不同的标记行为，决定了当 Moderation API 标记评论时所采取的操作。
1. 标记 (默认行为)
插件机器人会根据您的 Discourse 配置，为评论添加“不当”标记。通常，这意味着评论会出现在审核队列中，但在版主批准或更多用户标记评论之前，它可能不会立即隐藏。请查看 Discourse 中的标记相关设置以进行自定义。
2. 队列待审核
评论会立即隐藏并添加到审核队列中，供版主批准或拒绝。
3. 阻止帖子
评论不会被发布。作者会收到一条错误消息，指出评论已被自动审核系统阻止。（您可以自定义错误消息。）
4. 无
不会立即采取任何操作。评论会被分析，如果被标记，将出现在 Moderation API 仪表板中。此选项适用于在完全启用插件之前测试 Moderation API。
待办事项
- 启用 Moderation API 的审核队列操作以从 Discourse 中删除内容。
- 将 Discourse 审核队列的操作同步到 Moderation API 的审核队列。
- 允许为不同类别设置单独的审核项目。
- 使用选定的 Discourse 标记类别（目前使用“不当”）标记内容。
设置
下表列出了 Moderation API 插件的可用设置及其描述：
| 设置 | 描述 |
|---|---|
| 启用 Moderation API | 控制插件是否激活。 默认值： 已禁用 |
| 标记行为 | 标记内容时会发生什么： • 队列待审核 • 标记帖子 • 阻止帖子 • 无 默认值： 标记帖子 |
| 阻止消息 | 帖子被阻止时向用户显示的消息。 默认值： “您的帖子已被我们的审核系统阻止。” |
| 队列时通知 | 帖子排队待审核时发送通知。 默认值： 已启用 |
| 跳过私信 | 对私信应用审核。 默认值： 已禁用 |
| 跳过群组 | 绕过审核检查的用户群组。 默认值： 无 |
| 跳过类别 | 绕过审核检查的论坛类别。 默认值： 无 |
| API 密钥 | 您的 Moderation API 身份验证密钥。 默认值： 无 |
订阅
您可以立即安装该插件，并利用我们的免费套餐或30 天试用期。如需扩展功能和更高的使用限制，请浏览我们的订阅选项。
文档
支持
- 获取支持： support@moderationapi.com
- 请求功能： 功能请求
- 报告问题： 在此报告
免责声明： 虽然 Discourse Moderation API 插件显著增强了审核功能，但务必审查并理解自动审核的含义。始终确保社区了解在审核过程中使用 AI 的情况。
隐私声明： 此插件会处理用户生成的内容以执行审核规则。请确保遵守您的隐私政策，并告知用户数据处理实践。