Configurando los servicios de Amazon Bedrock

Documentación Integraciones
1

:bookmark: Esta guía explica cómo configurar claves de API para Amazon Bedrock para habilitar las funciones de Discourse AI que requieren claves de LLM de terceros.

:person_raising_hand: Nivel de usuario requerido: Administrador

En este ejemplo, estamos utilizando Amazon Bedrock para generar las claves.

Nota: Necesitarás un plan de pago y claves de API configuradas

Las plataformas siempre cambian, por lo que esta guía puede no reflejar el proceso al 100%.

Obtener claves de API

Configurar claves en Amazon Bedrock es algo más complicado que en la mayoría de los otros proveedores. Probablemente necesitarás estar familiarizado con conceptos como roles de IAM y más. Las instrucciones sobre cómo obtener claves están en:

¿Qué modelos de Bedrock soporta Discourse AI?

Discourse AI soporta todos los modelos de Anthropic (Haiku 3.5 / Sonnet 3.5 / Opus 3.5) y todos los modelos de lenguaje Nova (Micro / Lite y Pro)

Estos modelos son compatibles con imágenes, videos y llamadas a herramientas (xml y nativas).

A partir de diciembre de 2024, estos son los identificadores de modelos clave:

Nova:

  • amazon.nova-pro-v1:0
  • amazon.nova-lite-v1:0
  • amazon.nova-micro-v1:0

Claude:

  • anthropic.claude-3-5-haiku-20241022-v1:0
  • anthropic.claude-3-5-sonnet-20241022-v2:0

Ten en cuenta que no todos los modelos están disponibles en todas las regiones, consulta tu página de configuración de Bedrock.

Usar claves de API para Discourse AI

  1. Ve a Admin → Plugins → AI → pestaña LLMs
  2. Haz clic en el botón Configurar en “Configuración manual”
  3. Introduce todos los ajustes del modelo:

La imagen muestra un formulario para configurar una herramienta que incluye ajustes para un modelo Amazon Nova Pro en AWS Bedrock, incluyendo ID del modelo, proveedor, clave de API, ID de clave de acceso, región, tokenizador y otras opciones. (Subtitulado por IA)
La imagen muestra un formulario para configurar una herramienta que incluye ajustes para un modelo Amazon Nova Pro en AWS Bedrock, incluyendo ID del modelo, proveedor, clave de API, ID de clave de acceso, región, tokenizador y otras opciones. (Subtitulado por IA)629×1127 64.5 KB

Ten en cuenta que necesitarás una clave de API, una clave de acceso de Bedrock y la región.

Como tokenizador, puedes usar el OpenAiTokenizer para los modelos Nova y el AnthropicTokenizer para los modelos basados en Claude.

¿Debo deshabilitar el soporte de herramientas nativas o no?

Discourse viene con configuraciones basadas en herramientas nativas y xml, en algunos casos las herramientas XML superan la implementación de herramientas nativas, deberías experimentar para encontrar qué configuración funciona mejor para ti.

3 Me gusta