Discourse AI - AI 用法

[Saif (Saif Murtaza)]

本指南涵盖了“AI 使用情况”页面，它是 Discourse AI 插件的一部分。

所需用户级别：管理员

“AI 使用情况”页面旨在帮助管理员了解社区随时间推移如何使用 Discourse AI 功能。这对于 Estimating costs of using LLMs for Discourse AI 很有帮助。

功能

• 时间范围：过去 24 小时、过去一周、过去一个月和自定义日期范围
• 可按 Discourse AI 功能选择
• 可按启用的 LLM 选择
• 摘要预览
  • 总请求数：通过 Discourse 向 LLM 发出的所有请求
  • 总令牌数：提示 LLM 时使用的所有令牌
  • 请求令牌数：LLM 尝试理解您所说内容时使用的令牌
  • 响应令牌数：LLM 响应您的提示时使用的令牌
  • 缓存读取令牌数：LLM 从缓存中重复使用的先前处理过的请求令牌，以优化性能和成本
  • 缓存写入令牌数：写入缓存以供将来可能重用的请求令牌
  • 预估成本：基于 LLM 配置中指定的成本指标，所有 LLM 使用的令牌的累积成本
• 可交互式条形图展示令牌使用情况
• 每个 Discourse AI 功能的令牌、使用计数和预估成本
• 每个 LLM 的令牌、使用计数和预估成本
• 每个用户的令牌、使用计数和预估成本

启用 AI 使用情况

先决条件

要填充数据，您必须配置至少一个来自提供商的大型语言模型 (LLM)，并有成员使用 Discourse AI 功能。

要开始使用，您可以通过 Discourse AI - 大型语言模型 (LLM) 设置页面 配置 LLM。

• OpenAI
• Anthropic
• Azure OpenAI
• AWS Bedrock
• Google Gemini
• Mistral
• Groq
• SambaNova
• Open Router
• Cohere
• HuggingFace
• vLLM / 自托管开源 LLM

配置

1. 前往 管理 设置 → 插件 → AI → 设置 选项卡，并确保已启用（discourse ai enabled）
2. 在 AI 插件中导航到 使用情况 选项卡

技术常见问题解答

什么是令牌及其工作原理？

• 令牌是 LLM 用于理解和生成文本的基本单位，使用数据可能会影响成本。请参阅 Estimating costs of using LLMs for Discourse AI 了解更多信息。