Всем привет,
у меня вопрос по Discourse AI: поддерживает ли он сторонние API-шлюзы/прокси?
Я попробовал использовать шлюз от NewAPI (сторонний прокси, совместимый с OpenAI), но Discourse AI возвращает ошибку «Internal Server Error». Не уверен, проблема ли это в моей конфигурации или ограничение самого Discourse AI.
Поэтому хочу уточнить:
Поддерживает ли Discourse AI на данный момент сторонние API, совместимые с OpenAI, включая шлюзы и прокси?
Или сейчас поддерживаются только официальные API OpenAI и Google?
Если сторонние API поддерживаются, требуется ли какая-то особая настройка (заголовки, формат базового URL, имена моделей и т. д.)?
Использование моих собственных официальных ключей API обходится дорого, поэтому я надеюсь, что получится использовать более дешёвый вариант через шлюз.
Также я хотел бы подключить Google BananaPro для генерации изображений просто для развлечения — не уверен, поддерживается ли это.
Буду благодарен за любые подсказки или ссылки на документацию. Спасибо!
У нас есть клиенты, которые ежедневно выполняют тысячи вызовов ИИ через прокси, совместимые с OpenAI, поэтому мы знаем, что это работает. Основная проблема заключается в том, насколько на самом деле они совместимы, когда заявляют о совместимости с OpenAI.
vLLM, Google, Ollama и LMStudio предоставляют API, совместимые с OpenAI, которые мы ежедневно тестируем и используем.
Если у конкретного провайдера возникают сбои, обычно легко понять причину через логи на странице /logs. Можете ли вы поделиться ошибкой оттуда?
В Discourse обязательно нужно заполнять системный промпт, а я не хочу его заполнять — ввёл просто точку.
То есть модель должна просто отвечать на вопрос пользователя @, без лишних настроек.
Пока ещё не разобрался, как это правильно настроить.
Когда упоминаешь @бота, почему-то по умолчанию используется промпт из «Пользовательских настроек» (потому что я искал в формате его ответов и нашёл только этот промпт, который совпадает). Как на скриншоте ниже: даже после изменений ничего не работает, не понимаю, в чём дело.
