У нас есть клиенты, которые ежедневно выполняют тысячи вызовов ИИ через прокси, совместимые с OpenAI, поэтому мы знаем, что это работает. Основная проблема заключается в том, насколько на самом деле они совместимы, когда заявляют о совместимости с OpenAI.
vLLM, Google, Ollama и LMStudio предоставляют API, совместимые с OpenAI, которые мы ежедневно тестируем и используем.
Если у конкретного провайдера возникают сбои, обычно легко понять причину через логи на странице /logs. Можете ли вы поделиться ошибкой оттуда?