在聊天中启用AI机器人

好的,那么我们来仔细看看,这里有一些更技术性的细节。

  1. @mention @gpt3.5-bot 会选择第一个优先级最高的人格(persona),通常是论坛助手,但你可以更改它。
  2. 我们还会提供上下文(比如说 1000 个 token 的先前聊天记录),这样它就能跟上。 (这个是可配置的吗?可以按人格配置吗?)
  3. 我们显然需要限制可以在聊天中 @mention 的用户组,所以我们需要一个站点设置来实现这一点。
  4. 我们需要考虑可审计性,最简单的实现方式是提供一个数据探索器查询。
  5. 考虑到最近的聊天重构,我们可以与机器人开启“无限”的新讨论,所以我们肯定可以在那里设计一些东西。
  6. 如果我们允许在聊天中 @mention,为什么不能也允许在论坛帖子中提及同一组人?或者不同组的人?

考虑到以上所有这些……我的 V0 建议是:

  1. 添加站点设置 ai_bot_chat_enabled_groups
  2. 目前硬编码 1000 个 token 的上下文——选择第一个优先级最高的人格
  3. V0 只支持 @mention

V1

  1. 流式传输和取消支持

V2

  1. 添加对“与 AI 机器人的群组 DM”的可选支持
  2. 确保我们也有一个不错的 UI 来查找所有这些东西,并最大限度地减少这方面的开销。

V3

  1. 可选地允许人格也设置一个专用的用户和专用头像。然后你可以在聊天中与多个机器人进行交互。在这种模式下,人格也会选择一个用户/模型。
  2. 还将一些配置移至人格 UI……哪些人格启用了聊天?

V4

  1. 考虑限制——每个用户每天的最大 token 使用量,等等。

V5

  1. 考虑也将其中一些功能添加到标准主题中——(需要站点设置等……)例如:“@summary_bot 总结到目前为止这个主题

总的来说,我非常喜欢这些想法,只是需要弄清楚如何将这些内容整合到我们的路线图中。

8 个赞