配置 Amazon Bedrock 服务

:bookmark: 本指南介绍如何为 Amazon Bedrock 配置 API 密钥,以启用需要第三方 LLM 密钥的 Discourse AI 功能。

:person_raising_hand: 所需用户级别:管理员

在本示例中,我们使用 Amazon Bedrock 生成密钥。

注意:您需要付费套餐并配置好 API 密钥。

平台总是在变化,因此本指南可能无法 100% 反映实际流程。

获取 API 密钥

在 Amazon Bedrock 上配置密钥比大多数其他提供商要复杂一些。您可能需要熟悉 IAM 角色等概念。有关如何获取密钥的说明,请访问:

Discourse AI 支持哪些 Bedrock 模型?

Discourse AI 支持所有 Anthropic 模型(Haiku 3.5 / Sonnet 3.5 / Opus 3.5)以及所有 Nova 语言模型(Micro / Lite 和 Pro)。

这些模型支持图像、视频和工具调用(XML 和原生)。

截至 2024 年 12 月,以下是关键模型 ID:

Nova:

  • amazon.nova-pro-v1:0
  • amazon.nova-lite-v1:0
  • amazon.nova-micro-v1:0

Claude:

  • anthropic.claude-3-5-haiku-20241022-v1:0
  • anthropic.claude-3-5-sonnet-20241022-v2:0

请记住,并非所有模型在所有区域都可用,请检查您的 Bedrock 配置页面。

将 API 密钥用于 Discourse AI

  1. 转到 管理插件AILLM 选项卡。
  2. 在“手动配置”上,点击“设置”按钮。
  3. 输入所有模型设置:

请注意,您需要 API 密钥、Bedrock 访问密钥和区域。

对于分词器,您可以将 OpenAiTokenizer 用于 Nova,将 AnthropicTokenizer 用于 Claude 模型。

是否应禁用原生工具支持?

Discourse 附带原生工具和基于 XML 的工具配置。在某些情况下,XML 工具的性能优于原生工具实现,您应该进行实验以找到最适合您的配置。

3 个赞