Puis-je ajouter d'autres fournisseurs de modèles AWS Bedrock comme LLMs personnalisés ?

Soutien
1

J’utilise actuellement AWS Bedrock avec les fournisseurs Anthropic, et cela fonctionne très bien, mais je me demande s’il existe un moyen d’ajouter également les autres fournisseurs proposés par AWS, comme Titan et Llama. Je vois qu’il y a une option LLM personnalisé, mais je ne suis pas sûr de ce qu’il faut mettre dans quelques-unes des zones de texte, comme la clé API et l’URL, car celles-ci sont un peu différentes pour AWS Bedrock.

Si quelqu’un peut clarifier cela, ce serait formidable !

1 « J'aime »
2

Nous travaillons à rendre notre configuration LLM suffisamment flexible pour prendre en charge tout modèle existant, à condition qu’il soit conforme à l’une des API prises en charge. Nous avons déjà expédié une partie de cet effort pour permettre l’utilisation de toute API compatible avec OpenAI il y a quelques semaines, mais nous n’avons pas encore réussi à faire fonctionner cela avec d’autres API comme Bedrock.

2 « J'aime »