AI 分诊自动化是否会扫描普通用户之间的私信?

您好,

我已在我的平台(madeira.community —— 马德拉岛的多语言商业目录)上配置了“使用 AI 对帖子进行初步筛选”的自动化内容审核功能。

该自动化功能对公开帖子运行完美。但是,我启用了“包含个人消息”选项后发现,普通用户之间的私信根本没有被扫描。

我的担忧是真实的:不良行为者可以利用私信进行非法活动——如毒品交易、共享被盗财务数据、诱骗儿童等——同时完全绕过在公开内容上运行良好的 AI 审核。

我的问题:

  1. “包含个人消息”选项是否真的支持扫描两个普通用户(非工作人员)之间的私信?

  2. 如果不支持——这是设计如此还是已知限制?

  3. 是否有受支持的方法可以对普通用户之间的私信应用 AI 初步筛选?

我发现了一个关于“默认跳过 LLM 初步筛选中的私信扫描”的提交记录,这表明这可能是有意为之。但界面上确实存在该选项——因此我对它实际的功能感到困惑。

谢谢

是的,支持。如果启用了该选项,系统应该会扫描私信。

您是如何得出这一结论的?

“我通过在两个普通用户(testUser 到 darinauser,均为非工作人员)之间发送包含明显非法内容的私信进行了测试:‘可卡因。武器。手榴弹’和‘色情。污秽。淫乱。暴力’。这些私信已成功送达且未被标记。审核队列保持为空。而相同内容在公开帖子中则被立即标记。”

我可以确认它们未被处理,这些私信的主题 ID(210、211、212 和 214)以及帖子 ID 均未出现在 ai_api_audit_logs 表中。

我认为“主题类型”中的“所有主题”指的是所有非私信的主题。
您能否尝试将该选项留空?

“成功了!谢谢 Richard。留空主题类型解决了问题——普通用户之间的私信现在已被扫描。
我计划设置两个独立的自动化流程:

一个用于公开帖子,使用严格的审核提示;
另一个用于私信,使用较宽松的提示——仅标记最严重的违规内容(如儿童性虐待材料、毒品交易、武器)。

这样,公开内容将接受全面审核,而私人对话则拥有更合适的边界。”

该主题可以关闭了。谢谢!

嗯,在这个上下文中,“所有主题”似乎有点不清楚……也许我们应该更新一下以澄清

  • 所有主题 主题(所有类别)
  • 公开主题(排除所有安全类别) 主题(仅限公开类别)
  • 个人消息 仅限

“所有主题”部分让我以为所有内容都会被审核。
我甚至没想过留空该字段会导致所有内容都被审核。

我认为单个下拉菜单的限制较多,而三个独立的选项会更佳,对用户来说也肯定更清晰。

  • 公开主题:是/否
  • 非公开主题:是/否
  • 私信:是/否

共有 8 种可能的情况,而下拉菜单仅覆盖了其中四种。

也许吧?

  • 全部(主题 + 私信)

  • 仅公开主题

  • 仅非公开主题

  • 非公开主题 + 私信

  • 仅私信

这并未涵盖“常规主题(包括公开和非公开主题),但不包括私信”这一相当合理的选择。

此外,虽然可能性较小,还有“公开主题和私信”这一选项。