Discourse AI - 大型语言模型 (LLM) 设置页面

[Discourse]

本指南涵盖了属于 Discourse AI 插件的 LLM 设置页面。

所需用户级别：管理员

专用设置页面旨在将所有与用于 Discourse AI 功能的大型语言模型 (LLM) 相关的内容集中在一个地方。

根据启用的 Discourse AI 功能，可能需要 LLM。请查看每个 Discourse AI 功能以了解 LLM 是否是先决条件。

功能

• 添加具有预填充信息的新模型
• 添加未提及的自定义模型
• 配置 LLM 设置
• 允许为 AI 机器人使用特定的 LLM
  • 查看 AI 机器人的用户名
• 启用视觉支持（取决于模型）
• 配置允许的附件类型
• 设置每组使用配额
• 跟踪输入/输出 token 成本
• 测试
• 保存设置

添加 LLM 连接

1. 前往 管理 → 插件 → AI
2. 前往 LLMs 选项卡
3. 添加新连接，选择您的模型
4. 输入 API 密钥（根据模型，您可能需要手动输入更多字段）并保存
5. (可选) 测试您的连接以确保其正常工作

支持的 LLM

如果您没有看到列出的模型，您可以随时添加自定义选项。我们将持续添加支持的模型。预配置模型是模板——您始终可以使用“手动配置”实现相同的结果。

Anthropic

• Claude Opus 4.6
• Claude Sonnet 4.6
• Claude Haiku 4.5

Google

• Gemini 3 Pro
• Gemini 3 Flash

OpenAI

• GPT-5.4
• GPT-5 Mini
• GPT-5 Nano

Open Router

• DeepSeek V3.2
• Moonshot Kimi K2.5
• xAI Grok 4 Fast
• MiniMax M2.5
• Z-AI GLM-5
• … 还有更多

此外，托管客户可以在设置页面中使用 CDCK 托管的小型 LLM（预配置）。这是一个由 Discourse 托管的开源权重 LLM，可用于驱动 AI 功能。

配置字段

您只会看到与您选择的 LLM 提供商相关的字段。请仔细检查任何预填充的字段是否正确，例如 模型名称

核心字段：

• 显示名称 — 在下拉菜单中显示的友好名称
• 模型名称 — 发送到 API 的模型标识符（例如 claude-sonnet-4-6, gpt-5.2）
• 提供商 — 托管模型的服务（例如 Anthropic、OpenAI、Google、AWS Bedrock、Azure、Open Router 等）
• URL — API 端点 URL（AWS Bedrock 不显示）
• API 密钥 — 通过 AI Secrets 系统配置
• 分词器 (Tokenizer)
• 最大提示词元数 (Max prompt tokens) — 控制提示词修剪以防止请求过大
• 最大输出词元数 (Max output tokens)
• 输入成本 / 输出成本 — 每百万词元的成本，用于使用情况跟踪
• 缓存输入成本 / 缓存写入成本 — 适用于支持提示词缓存的提供商
• 启用视觉 — 启用图像理解（取决于模型）
• 允许的附件类型 — 模型可以处理的文件类型

特定于提供商的字段（根据所选提供商动态显示）：

• AWS Bedrock: 访问密钥 ID (Access Key ID), 角色 ARN (Role ARN), 区域 (Region), 推理/思考选项, 提示词缓存 (Prompt caching)
• Anthropic: 推理选项, 提示词缓存 (Prompt caching)
• OpenAI: 组织 ID (Organization ID), 推理工作量 (Reasoning effort), 服务层级 (Service tier)
• Google: 启用思考 (Enable thinking), 思考级别 (Thinking level)
• Open Router: 提供商顺序 (Provider order), 提供商量化 (Provider quantizations)

配额（初始保存后可用）：

• 可以配置每组使用配额，包括最大词元数、最大使用次数和持续时间

技术常见问题 (FAQ)

什么是分词器 (tokenizer)？

• 分词器将字符串转换为词元 (tokens)，这是模型理解输入所使用的内容。

最大提示词元数 我应该使用什么数字？

• 一个好的经验法则是模型上下文窗口的 50%，上下文窗口是您发送的词元数和它们生成的词元数的总和。如果提示词变得太大，请求将失败。该数字用于修剪提示词并防止这种情况发生

注意事项

• 有时您可能看不到想要使用的模型。虽然您可以手动添加它们，但我们会支持新推出的流行模型。

[qianping_chen (rouin)]

太难了，我根本不知道该怎么做。我希望更新各种 AI 的具体教程，例如 Google 登录设置。