Configurando serviços Amazon Bedrock

Documentação Integrações
1

:bookmark: Este guia explica como configurar chaves de API para o Amazon Bedrock para habilitar recursos do Discourse AI que exigem chaves de LLM de terceiros.

:person_raising_hand: Nível de usuário necessário: Administrador

Neste exemplo, estamos usando o Amazon Bedrock para gerar as chaves.

Observação: Você precisará de um plano pago e chaves de API configuradas

As plataformas sempre mudam, portanto, este guia pode não refletir 100% do processo.

Obter chaves de API

Configurar chaves no Amazon Bedrock é um pouco mais complicado do que na maioria dos outros provedores. Você provavelmente precisará estar familiarizado com conceitos como funções IAM e mais. As instruções sobre como obter chaves estão em:

Quais modelos do Bedrock o Discourse AI suporta?

O Discourse AI suporta todos os modelos Anthropic (Haiku 3.5 / Sonnet 3.5 / Opus 3.5) e todos os modelos de linguagem Nova (Micro / Lite e Pro)

Esses modelos são suportados com imagens, vídeos e chamadas de ferramentas (xml e nativas).

Em dezembro de 2024, aqui estão os IDs de modelo chave:

Nova:

  • amazon.nova-pro-v1:0
  • amazon.nova-lite-v1:0
  • amazon.nova-micro-v1:0

Claude:

  • anthropic.claude-3-5-haiku-20241022-v1:0
  • anthropic.claude-3-5-sonnet-20241022-v2:0

Lembre-se de que nem todos os modelos estão disponíveis em todas as regiões, verifique sua página de configuração do Bedrock.

Usando chaves de API para Discourse AI

  1. Vá para Admin → Plugins → AI → aba LLMs
  2. Clique no botão Configurar em “Configuração manual”
  3. Insira todas as configurações do modelo:

A imagem exibe um formulário para configurar uma ferramenta que envolve configurações para um modelo Amazon Nova Pro na AWS Bedrock, incluindo ID do modelo, provedor, chave de API, ID da chave de acesso, região, tokenizador e outras opções. (Legenda por IA)
A imagem exibe um formulário para configurar uma ferramenta que envolve configurações para um modelo Amazon Nova Pro na AWS Bedrock, incluindo ID do modelo, provedor, chave de API, ID da chave de acesso, região, tokenizador e outras opções. (Legenda por IA)629×1127 64.5 KB

Observe que você precisará de uma chave de API, chave de acesso do Bedrock e região.

Como tokenizador, você pode usar o OpenAiTokenizer para modelos Nova e o AnthropicTokenizer para modelos Claude.

Devo desabilitar o suporte nativo a ferramentas ou não?

O Discourse vem com configurações baseadas em ferramentas nativas e XML, em alguns casos as ferramentas XML superam a implementação nativa de ferramentas, você deve experimentar para descobrir qual configuração funciona melhor para você.

3 curtidas