在 Discourse Meta 上进行的基于 AI 的审核实验

社区
,
11

我有一段时间没有发帖了，尽管我每天都会访问我的小聊天窗口，并且它每天至少能“有用”一两次……持续不断。

我在这里延迟的原因是我必须完成这个相当大的改动。

它为 Discourse AI 提供了细微但至关重要的改进。

我经常注意到审核机器人因为我们构建上下文的方式而讨论完全不相关的图像。这个改动允许我们以正确排序的方式呈现混合内容（包含图像和文本）。

这意味着大型语言模型（LLM）不再感到困惑。

接下来的步骤？

  1. 我们没有自动化方法来让它在帖子编辑“稳定”后调用规则，LLM 调用可能很昂贵，仅仅因为人们编辑了错别字，我们不希望一遍又一遍地扫描。我不确定这是否需要，但我希望有可能在帖子稳定成新形状后触发自动化。
  2. 提示工程——当前的提示还可以，但对我来说有点太响亮了，它有点太困扰我了，我可能会稍微缓和一下。
  3. 改进上下文——一件真正困扰我的事情是，自动化现在没有用户信任意识。社区中的一些用户比其他用户更受信任（例如：版主），我想看看是否可以改进这一点。
  4. 能够对帖子批次运行自动化以进行快速迭代。
  5. 我相信还会出现更多问题。
8 个赞