AWS Bedrock を Anthropic プロバイダーで使用しており、問題なく動作していますが、AWS が提供する Titan や Llama などの他のプロバイダーを追加する方法があるか疑問に思っています。カスタム LLM オプションがありますが、API キーや URL など、AWS Bedrock では少し異なるテキスト ボックスに何を入力すればよいかわかりません。
どなたかこの点について明確にしていただけると幸いです!
AWS Bedrock を Anthropic プロバイダーで使用しており、問題なく動作していますが、AWS が提供する Titan や Llama などの他のプロバイダーを追加する方法があるか疑問に思っています。カスタム LLM オプションがありますが、API キーや URL など、AWS Bedrock では少し異なるテキスト ボックスに何を入力すればよいかわかりません。
どなたかこの点について明確にしていただけると幸いです!
LLM構成を、サポートされているAPIのいずれかに準拠する既存のモデルであれば、どれでもサポートできるように十分に柔軟にすることに取り組んでいます。数週間前に、OpenAI互換APIであればどれでも使用できるようにする取り組みの一部をすでにリリースしましたが、Bedrockのような他のAPIで動作するようにするには、まだ改善が必要です。