Discourse AI - AI 使用

[Saif (Saif Murtaza)]

本指南涵盖了 AI 使用页面，该页面是 Discourse AI 插件的一部分。

所需用户级别：管理员

AI 使用页面旨在帮助管理员了解社区随时间如何使用 Discourse AI 功能。这在 Estimating costs of using LLMs for Discourse AI 中可能很有帮助。

功能

• 时间范围：24 小时、上周和自定义日期
• 可按 Discourse AI 功能选择
• 可按启用的 LLM 选择
• 摘要预览
• 总请求数：通过 Discourse 向 LLM 发出的所有请求
• 令牌总数：提示 LLM 时使用的所有令牌
• 请求令牌数：LLM 尝试理解您所说内容时使用的令牌
• 响应令牌数：LLM 回复您的提示时使用的令牌
• 缓存令牌数：LLM 用于优化性能和成本的先前处理过的请求令牌
• 可交互的条形图展示令牌使用情况
• 每个 Discourse AI 功能的令牌和使用计数
• 每个 LLM 的令牌和使用计数

启用 AI 使用

先决条件

要填充数据，您必须配置至少一个来自提供商的大型语言模型 (LLM)，并让成员使用 Discourse AI 功能。

要开始，您可以配置 LLM，方法是访问 Discourse AI - 大型语言模型 (LLM) 设置页面。

• OpenAI
• Anthropic
• Azure OpenAI
• 具有 Anthropic 访问权限的 AWS Bedrock
• 具有 Llama2 类模型的 HuggingFace 端点
• 自托管开源 LLM
• Google Gemini
• Cohere

配置

1. 转到 Admin 设置 → Plugins → AI → Settings 选项卡，并确保已启用 (discourse ai enabled)
2. 在 AI 插件中，导航到 Usage 选项卡

技术常见问题解答

什么是令牌，它们如何工作？

• 令牌是 LLM 用于理解和生成文本的基本单位，使用数据可能会影响成本。请查看 估算使用 LLM 进行 Discourse AI 的成本 以了解更多信息。