好的,那么我们来仔细看看,这里有一些更技术性的细节。
@mention@gpt3.5-bot会选择第一个优先级最高的人格(persona),通常是论坛助手,但你可以更改它。- 我们还会提供上下文(比如说 1000 个 token 的先前聊天记录),这样它就能跟上。 (这个是可配置的吗?可以按人格配置吗?)
- 我们显然需要限制可以在聊天中
@mention的用户组,所以我们需要一个站点设置来实现这一点。 - 我们需要考虑可审计性,最简单的实现方式是提供一个数据探索器查询。
- 考虑到最近的聊天重构,我们可以与机器人开启“无限”的新讨论,所以我们肯定可以在那里设计一些东西。
- 如果我们允许在聊天中
@mention,为什么不能也允许在论坛帖子中提及同一组人?或者不同组的人?
考虑到以上所有这些……我的 V0 建议是:
- 添加站点设置
ai_bot_chat_enabled_groups - 目前硬编码 1000 个 token 的上下文——选择第一个优先级最高的人格
- V0 只支持
@mention
V1
- 流式传输和取消支持
V2
- 添加对“与 AI 机器人的群组 DM”的可选支持
- 确保我们也有一个不错的 UI 来查找所有这些东西,并最大限度地减少这方面的开销。
V3
- 可选地允许人格也设置一个专用的用户和专用头像。然后你可以在聊天中与多个机器人进行交互。在这种模式下,人格也会选择一个用户/模型。
- 还将一些配置移至人格 UI……哪些人格启用了聊天?
V4
- 考虑限制——每个用户每天的最大 token 使用量,等等。
V5
- 考虑也将其中一些功能添加到标准主题中——(需要站点设置等……)例如:“
@summary_bot 总结到目前为止这个主题”
总的来说,我非常喜欢这些想法,只是需要弄清楚如何将这些内容整合到我们的路线图中。