Discourse AI - 垃圾邮件检测

这是同一个垃圾邮件发送者在此被抓获的一个例子:https://meta.discourse.org/t/full-list-of-quickbooks-desktop-support-contact-numbers-a-complete-call-center-in-the-usa/380776(已隐藏)。

这些人确实很努力。

1 个赞

很棒的功能。 :raising_hands: 这正是我希望看到人工智能的使用方式。

快速提问:当新的 TL0 用户提交回复或主题时,内容扫描会有延迟吗?

我在内置测试器中看到了短暂的延迟(截图如下),但当我从测试帐户发布时,没有类似的暂停。扫描是发布后异步进行的,只有在触发规则时帖子才会被隐藏吗?(背景:我正在使用 OpenAI ChatGPT 5 API。)

就我而言,AI Spam & Stats 的计数器与测试帐户一样按预期递增,所以帖子确实被扫描了;它只是没有像测试按钮那样引入相同的延迟。

image

谢谢。

好的,这个效果相当不错,但当它标记了数十个主题/用户时会发生什么?我没有看到批量禁止/删除这些用户/帖子的方法。

感谢您提供的详细帖子。我们的实例启用了 Discourse AI 垃圾邮件检测,我们看到的情况之一是,当一个账户发表的第一篇帖子被标记时,系统会自动将其静音。

我理解这是为了静音一次性垃圾邮件发送者;然而,这导致了一个问题:在某些情况下,我们希望批准标记但不想静音用户时,批准/接受标记意味着用户将保持静音状态。最好能有:

  1. 一个“同意并保持静音”按钮,以及
  2. 一个单独的“同意并解除静音”按钮。
2 个赞

这是一个棘手的问题,我们不想让人们因选择过多而不知所措,但我完全理解在规模化的情况下,这可能会成为一个问题。

让我和企业体验 (enterprise xp) 团队核实一下,也许我们可以为您的论坛做一些小的定制。

1 个赞

我在本地开发环境发布了一篇测试垃圾主题,但是它并没有自动进入审核队列。

AI检测结果确实是垃圾帖子。

而且也符合其他进入审核队列的条件。

  1. 用户信任级别

    • 扫描信任级别为 1 或更低 的用户的帖子。

    • 排除信任级别更高的用户的帖子。

  2. 帖子类型

    • 公开帖子(不包括私人消息)。

    • 根据其他阈值,包括回复帖子和第一个主题帖子。

  3. 帖子编辑

    • 扫描有重大编辑的帖子(例如,更改超过 10 个字符)。

    • 对同一帖子的扫描之间强制执行 10 分钟的延迟

  4. 帖子频率

    • 优先处理新用户在公开主题中总共发布少于 4 篇帖子 的情况。

    • 排除超出此阈值用户的帖子。

但是,最终结果是没有进入审核队列。

我应该检查哪些地方,可以找到问题呢?

您好 @singi2016cn

您的意思是您使用测试工具验证了这一点吗?

您可以通过遵循以下说明访问该工具:

  1. 登录您论坛上具有管理员权限的帐户。
  2. 导航到您论坛上的此页面:/admin/plugins/discourse-ai/ai-spam
  3. 单击该页面上的“测试…”按钮。
    将打开“测试垃圾邮件检测”对话框。
  4. 在对话框的“帖子 URL 或 ID”字段中输入您的测试垃圾邮件帖子的 URL 或帖子 ID。
  5. 单击“运行测试”按钮。
2 个赞

是的,测试工具明确返回是Spam,然后我发帖内容一模一样,却没有进入审核队列。

这是谁发的?您是使用了自己创建的新用户进行测试,还是例如使用了具有版主权限的帐户?

普通用户,trust_level_1 信任级别,不是管理员,也不是版主。