我目前正在使用 AWS Bedrock 和 Anthropic 提供商,效果很好,但我想知道是否可以添加 AWS 提供的其他提供商,如 Titan 和 Llama。我看到有一个自定义 LLM 选项,但不确定在某些文本框中应填入什么,例如 API 密钥和 URL,因为这些对于 AWS Bedrock 来说有点不同。
如果有人能对此进行澄清,那就太好了!
我目前正在使用 AWS Bedrock 和 Anthropic 提供商,效果很好,但我想知道是否可以添加 AWS 提供的其他提供商,如 Titan 和 Llama。我看到有一个自定义 LLM 选项,但不确定在某些文本框中应填入什么,例如 API 密钥和 URL,因为这些对于 AWS Bedrock 来说有点不同。
如果有人能对此进行澄清,那就太好了!
我们正在努力使我们的 LLM 配置足够灵活,只要符合任何支持的 API,它就能支持任何现有模型。几周前,我们已经完成了部分工作,使其能够使用任何与 OpenAI 兼容的 API,但我们距离让它与其他 API(如 Bedrock)协同工作还有一段距离。