현재 AWS Bedrock에 Anthropic 프로바이더를 사용 중인데 잘 작동하고 있습니다. 다만 AWS가 제공하는 Titan이나 Llama 같은 다른 프로바이더도 추가할 수 있는 방법이 있는지 궁금합니다. 커스텀 LLM 옵션은 확인했는데, AWS Bedrock의 경우 API 키나 URL 같은 항목이 조금 다르기 때문에 어떤 값을 입력해야 하는지 잘 모르겠습니다.
이 부분에 대해 설명해 주실 수 있다면 정말 감사하겠습니다!
우리는 LLM 설정을 충분히 유연하게 만들어, 지원되는 API 중 하나를 준수하는 모든 기존 모델을 지원할 수 있도록 작업하고 있습니다. 몇 주 전에는 OpenAI 호환 API를 사용할 수 있도록 하는 이 작업의 일부는 이미 출시했지만, Bedrock과 같은 다른 API와의 호환성을 위해 아직 남은 작업이 있습니다.