Tenemos clientes que realizan miles de llamadas de IA diariamente a través de proxies compatibles con OpenAI, por lo que sabemos que funciona. El principal problema es cuán compatibles son realmente cuando dicen “compatible con OpenAI”.
vLLM, Google, Ollama, LMStudio proporcionan API compatibles con OpenAI que probamos y utilizamos a diario.
Si un proveedor específico está fallando, generalmente es fácil encontrar el motivo a través de los registros en la página /logs. ¿Puedes compartir el error de allí?