我们有客户每天通过与 OpenAI 兼容的代理进行数千次 AI 调用,所以我们知道它是可行的。主要问题在于他们所说的“与 OpenAI 兼容”到底有多兼容。
vLLM、Google、Ollama、LMStudio 都提供我们每天测试和使用的与 OpenAI 兼容的 API。
如果某个特定的提供商出现故障,通常可以通过 /logs 页面上的日志轻松找到原因。您能分享那里的错误信息吗?
我们有客户每天通过与 OpenAI 兼容的代理进行数千次 AI 调用,所以我们知道它是可行的。主要问题在于他们所说的“与 OpenAI 兼容”到底有多兼容。
vLLM、Google、Ollama、LMStudio 都提供我们每天测试和使用的与 OpenAI 兼容的 API。
如果某个特定的提供商出现故障,通常可以通过 /logs 页面上的日志轻松找到原因。您能分享那里的错误信息吗?