在聊天中启用AI机器人

我们很乐意在聊天功能中加入 AI 机器人。我们的用户非常频繁地使用聊天功能。

3 个赞

您能详细说明一下您希望它如何工作吗?

2 个赞

我的用户会这样使用它:

  • 我的兽医说狗可以从阳光中获取维生素D
  • 我不这么认为……每个人都说我们必须使用营养保健品
  • 真的吗?嗨 @helpful-bot 狗可以从阳光中获取维生素D吗?

诸如此类。这意味着我不需要不同的角色。但对我来说,这不是一个交易破坏者。我已经在频道中使用了另一个聊天机器人😏

4 个赞

抱歉造成歧义。我的意思是希望用户能够通过使用 @botname 在常规聊天频道中召唤机器人。此外,符合条件的用户应该能够直接向机器人发送消息。如下图所示;

3 个赞

好的,那么我们来仔细看看,这里有一些更技术性的细节。

  1. @mention @gpt3.5-bot 会选择第一个优先级最高的人格(persona),通常是论坛助手,但你可以更改它。
  2. 我们还会提供上下文(比如说 1000 个 token 的先前聊天记录),这样它就能跟上。 (这个是可配置的吗?可以按人格配置吗?)
  3. 我们显然需要限制可以在聊天中 @mention 的用户组,所以我们需要一个站点设置来实现这一点。
  4. 我们需要考虑可审计性,最简单的实现方式是提供一个数据探索器查询。
  5. 考虑到最近的聊天重构,我们可以与机器人开启“无限”的新讨论,所以我们肯定可以在那里设计一些东西。
  6. 如果我们允许在聊天中 @mention,为什么不能也允许在论坛帖子中提及同一组人?或者不同组的人?

考虑到以上所有这些……我的 V0 建议是:

  1. 添加站点设置 ai_bot_chat_enabled_groups
  2. 目前硬编码 1000 个 token 的上下文——选择第一个优先级最高的人格
  3. V0 只支持 @mention

V1

  1. 流式传输和取消支持

V2

  1. 添加对“与 AI 机器人的群组 DM”的可选支持
  2. 确保我们也有一个不错的 UI 来查找所有这些东西,并最大限度地减少这方面的开销。

V3

  1. 可选地允许人格也设置一个专用的用户和专用头像。然后你可以在聊天中与多个机器人进行交互。在这种模式下,人格也会选择一个用户/模型。
  2. 还将一些配置移至人格 UI……哪些人格启用了聊天?

V4

  1. 考虑限制——每个用户每天的最大 token 使用量,等等。

V5

  1. 考虑也将其中一些功能添加到标准主题中——(需要站点设置等……)例如:“@summary_bot 总结到目前为止这个主题

总的来说,我非常喜欢这些想法,只是需要弄清楚如何将这些内容整合到我们的路线图中。

8 个赞

与此同时,如果您是自托管用户,可以考虑 Discourse Chatbot,它从一开始就支持聊天(实际上它是 Discourse 的第一个 AI Chatbot)。

4 个赞

这听起来是个非常稳妥的计划。

也许我们可以先从一个默认聊天 persona 的设置开始,然后最终迁移到每个频道?

100% 同意。

我认为聊天是个不错的起点,然后最终将相同的行为移植到主题中。

2 个赞

我几乎同意你和 @Falco 的看法,唯一要补充的是要确保它也能与聊天线程一起工作,如果 V0 不行,那么 V1/V2 也可以。

(可选)将来可能值得添加的另一件事是这里有一个选项可以启动与机器人的聊天,我的想法是某些用户甚至可能不知道他们可以这样做!

4 个赞

对于 V0 版本来说,这看起来不错。我认为拥有一个更好的 UI 来创建机器人并能够从此 UI 定义允许的组,在中长期来看会比站点设置好得多。

1 个赞

Persona编辑器肯定是我们实现这一目标的方式。

我们已经具备了将新用户关联到 persona 的所有基础。

2 个赞

AI 聊天机器人将比目前的私信 AI 好很多……
希望很快能添加此增强功能……

顺便说一句,Gemini API 的使用很快将不再免费……嗯……

1 个赞

我一直在尝试这个,它有很多限制,因为跟踪历史记录很难,markdown 不够完整,等等……它并非易事。虽然开始对话很容易,但它并不是一个完整的替代品。

你能详细说明一下为什么你认为它好得多吗?

Gemini 1.0 pro 并不那么好,我反正会避免使用它,如果你正在寻找便宜的 LLM,那么 Claude 3 Haiku 是个不错的选择。

4 个赞

已实现! :confetti_ball:
指南:

4 个赞

此主题已在 2 天后自动关闭。不再允许回复。