Configurazione dei servizi Amazon Bedrock

Documentazione Integrazioni
1

:bookmark: Questa guida spiega come configurare le chiavi API per Amazon Bedrock per abilitare le funzionalitĂ  di Discourse AI che richiedono chiavi LLM di terze parti.

:person_raising_hand: Livello utente richiesto: Amministratore

In questo esempio, utilizziamo Amazon Bedrock per generare le chiavi.

Nota: SarĂ  necessario un piano a pagamento e chiavi API configurate

Le piattaforme cambieranno sempre, quindi questa guida potrebbe non riflettere il processo al 100%.

Ottenere le chiavi API

La configurazione delle chiavi su Amazon Bedrock è un po’ più complicata rispetto alla maggior parte degli altri provider. Probabilmente dovrai avere familiarità con concetti come i ruoli IAM e altro ancora. Le istruzioni su come ottenere le chiavi sono disponibili all’indirizzo:

Quali modelli Bedrock supporta Discourse AI?

Discourse AI supporta tutti i modelli Anthropic (Haiku 3.5 / Sonnet 3.5 / Opus 3.5) e tutti i modelli linguistici Nova (Micro / Lite e Pro)

Questi modelli sono supportati con immagini, video e tool calling (xml e nativo).

A dicembre 2024, ecco gli ID dei modelli chiave:

Nova:

  • amazon.nova-pro-v1:0
  • amazon.nova-lite-v1:0
  • amazon.nova-micro-v1:0

Claude:

  • anthropic.claude-3-5-haiku-20241022-v1:0
  • anthropic.claude-3-5-sonnet-20241022-v2:0

Tieni presente che non tutti i modelli sono disponibili in tutte le regioni, controlla la tua pagina di configurazione di Bedrock.

Utilizzo delle chiavi API per Discourse AI

  1. Vai su Admin → Plugins → AI → scheda LLMs
  2. Fai clic sul pulsante Imposta su “Configurazione manuale”
  3. Inserisci tutte le impostazioni del modello:

L'immagine mostra un modulo per la configurazione di uno strumento che include impostazioni per un modello Amazon Nova Pro su AWS Bedrock, tra cui ID modello, provider, chiave API, ID chiave di accesso, regione, tokenizer e altre opzioni. (Didascalia dell'IA)
L'immagine mostra un modulo per la configurazione di uno strumento che include impostazioni per un modello Amazon Nova Pro su AWS Bedrock, tra cui ID modello, provider, chiave API, ID chiave di accesso, regione, tokenizer e altre opzioni. (Didascalia dell'IA)629Ă—1127 64.5 KB

Nota, avrai bisogno di una chiave API, una chiave di accesso Bedrock e una regione.

Come tokenizer puoi utilizzare OpenAiTokenizer per i modelli Nova e AnthropicTokenizer per i modelli Claude.

Dovrei disabilitare il supporto nativo degli strumenti o no?

Discourse viene fornito con configurazioni basate su strumenti nativi e strumenti XML, in alcuni casi gli strumenti XML superano l’implementazione nativa degli strumenti, dovresti sperimentare per trovare quale configurazione funziona meglio per te.

3 Mi Piace