수많은 고객이 OpenAI 호환 프록시를 통해 매일 수천 건의 AI 호출을 수행하고 있으므로, 이 방식이 작동한다는 것을 잘 알고 있습니다. 주요 문제는 "OpenAI 호환"이라고 할 때, 실제로 얼마나 호환되는지 여부입니다.
vLLM, Google, Ollama, LMStudio 모두 OpenAI 호환 API를 제공하며, 우리는 매일 이를 테스트하고 사용しています.
특정 제공자의 요청이 실패하는 경우, /logs 페이지의 로그를 통해 원인을 찾는 것이 보통 쉽습니다. 해당 페이지에서 발생한 오류를 공유해 주시겠습니까?