[AI机器人] 添加用户令牌跟踪、自定义AI个性化、最大上下文帖子、文档加载、自定义API URL和本地化聊天标题

功能
,
1

大家好！

我想为 Discourse AI 插件提出一些有用的功能建议：

  1. 跟踪每个用户的 token 使用量
    这将允许管理员监控每个用户在与 AI 交互时消耗的 token 数量。这有助于防止滥用，并允许设置每个用户或每个组的 token 限制。查看按用户细分的详细 token 使用量将更好地了解使用模式和成本。
    我们在社区中使用俄语与 AI 聊天，但 OpenAI 的分词器对俄语效果不佳。一个 token 可能就是一个符号，这对我们来说非常昂贵！

  2. 允许用户创建自定义 AI 角色
    让用户定义自己的 AI 助手角色（创建自定义提示），以实现更具吸引力、个性化的交互。赋予用户这种灵活性将激发论坛上更多创造性的 AI 用途。

  3. 设置包含的帖子上下文的最大数量的默认值
    为所有角色添加一个默认选项，将上下文限制为一定数量的最新帖子，有助于控制 token 使用量，同时仍为 AI 提供足够的上下文以做出适当的响应。

  4. 能够使用来自自定义数据源的文本
    集成 PDF、网页、Google 云端硬盘文件等来源的文档加载器，将使用户更容易与信息交互，而且实现起来似乎并不难。想象一下，当 AI 参与某个话题时，能够引用上传为 PDF 的白皮书中的信息，或特定网页中的事实。这对于学术界社区尤其有用，因为我的社区经常处理不同格式的文章。这可以极大地增强 AI 在专业讨论中的能力。LangChain 等文档加载工具可能可以用于此目的：Document Loaders — :parrot::link: LangChain 0.0.146

  5. 支持所有 AI 模型自定义 API 基础 URL
    目前，自定义 API URL 仅支持 OpenAI。将此功能扩展到所有支持的 AI 提供商将对那些需要使用反向代理或其他非标准 API 端点的人非常有帮助。我们中的许多人出于安全、合规或成本管理的原因依赖反向代理，因此能够灵活地通过我们自己的基础设施路由 AI 请求将使将此插件集成到我们的环境中更加容易。

  6. 根据用户的语言生成本地化的聊天标题
    目前，AI 仅生成英文聊天标题。能够以用户偏好的语言创建标题将提供更好的用户体验，特别是对于非英语社区。

请告诉我您的想法！

2 个赞
2

您好 @Oniel :slight_smile:

正如我之前提到的，您需要为每个 Feature 请求创建一个单独的主题：

我将关闭这个主题，但会将其保留可见，以便您可以将其分解为单独的主题。 :+1:

4 个赞