Могу ли я добавить других провайдеров моделей AWS Bedrock в качестве пользовательских LLM?

Поддержка
1

В настоящее время я использую AWS Bedrock с провайдерами Anthropic, и всё работает отлично, но я задумался, можно ли добавить и других провайдеров, которые предлагает AWS, например Titan и Llama. Я вижу, что есть опция «Пользовательская LLM», но не уверен, что указывать в некоторых текстовых полях, таких как API-ключ и URL, поскольку для AWS Bedrock они немного отличаются.

Если кто-то сможет прояснить этот вопрос, буду очень благодарен!

2

Мы работаем над тем, чтобы сделать конфигурацию наших LLM достаточно гибкой для поддержки любой существующей модели при условии её совместимости с одним из поддерживаемых API. Несколько недель назад мы уже внедрили часть этого решения, позволившую использовать любые API, совместимые с OpenAI, однако нам всё ещё не удалось обеспечить работу с другими API, такими как Bedrock.