discourse-ai AI Bot 与 merefield/discourse-chatbot 的比较

官方的 Discourse AI 插件与 Discourse Chatbot 🤖 插件在 AI 机器人及其功能方面有什么区别?

2 个赞

@merefield 插件存在的时间更长,并且有更多的配置选项。AI Bot 也更加雄心勃勃(尤其是因为我们获得了 GPT 4 访问权限),因为它试图将其集成到 Discourse 体验中——例如,它知道如何搜索和总结主题。

截至今天,显著的区别可能是:

  • 我们会流式传输回复并提供停止按钮
  • @merefield 提供了更多的设置来调整内容
  • 我们提供了一个“命令”框架,让机器人代表您执行操作——尽管在 GPT 3.5 上体验相当不稳定
  • @merefield 目前提供 Discourse 聊天集成,我们还没有
  • 我们还提供 Anthropic 集成
8 个赞

补充:根据我的测试,AI 机器人似乎只在私信中有效,而聊天机器人则在任何地方都有效,除非我在使用 AI 机器人时有什么地方做错了。

图像生成和流式传输做得很好,搜索 API 也是如此,但是,它有时仍然会回退到“我无法搜索网络或无法生成图像”。您是否使用了类似于 LangChain agents 的东西,它决定了要采取哪些步骤?

我们应该创建一个具有完整 Web 范围的 CX,还是只创建我们实例 URL 的 CX?

2 个赞

这是正确的。我们可能会实现更广泛的集成,但我们会慢慢来,先打磨现有功能。

是的,这是 GPT 3.5 与 GPT 4 之间非常令人沮丧的一点。让 3.5 模型“接地”非常非常困难。

我正在考虑在回复 GPT 3.5 之前增加一个中间步骤,先进行分类(例如:这个交互 INTERACTION 是否应该导致一个 !command,如果是,是哪个?)。这会增加成本和延迟,所以这是我的最后手段。

我们使用“类似”langchain 的东西,限制为 5 个步骤,但我们非常节省 token,所以平衡很难。

这取决于你……我喜欢能够访问整个谷歌,这非常方便。

4 个赞

我用来让 3.5 模型“接地”的方法是,在最终提示的较低位置添加一个简短的系统提示,以“提醒”模型主系统提示中的一些规则。

所以它看起来会像这样(从手机输入,正在尝试……)

系统角色
用户
助手
..
..
系统角色“提醒”
新用户提示

通过重复最重要的系统角色内容,模型会更加重视它。我使用这个变通方法已经几个月了,没有出现太多奇怪的响应。

特别是当提示变得越来越长时,模型往往会“忘记”最终提示中靠前的内容。人工智能中的很多东西都很“hacky”,我在 GPT 模型和 langchain 中都遇到了这种情况。就在今天,我在 langchain 中遇到了一个非常强的个性,当被问及某个随机城市的时间时,它的行为是“看我的手表”、“更改我的手表时区”和“问陌生人”。

4 个赞