¿Puedo agregar otros proveedores de modelos de AWS Bedrock como LLM personalizados?

Soporte
1

Estoy usando actualmente AWS Bedrock con los proveedores de Anthropic, y funciona muy bien, pero me pregunto si hay alguna manera de añadir también los otros proveedores que ofrece AWS, como Titan y Llama. Veo que hay una opción de LLM personalizado, pero no estoy seguro de qué poner en algunos de los cuadros de texto, como la clave API y la URL, ya que son un poco diferentes para AWS Bedrock.

Si alguien puede aclarar esto, ¡sería genial!

2

Estamos trabajando para que nuestra configuración de LLM sea lo suficientemente flexible como para admitir cualquier modelo existente, siempre que cumpla con cualquiera de las API compatibles, y ya hemos enviado parte de este esfuerzo para que sea posible usar cualquier API compatible con OpenAI hace unas semanas, pero todavía nos falta hacer que esto funcione con otras API como Bedrock.