У меня есть вопрос по поводу плагина ИИ. В данный момент в качестве варианта доступен только OpenAI. Возможно ли использовать локальную модель, например Ollama, или другую программу, позволяющую размещать собственные модели? Это помогло бы нам сэкономить средства, так как токены были бы бесплатными.
Да, плагин полностью не зависит от провайдера, и вы можете использовать его с локальной LLM из коробки.
Обратите внимание: если вы ищете бесплатные модели, на openrouter всегда есть несколько бесплатных и достойных вариантов. Например, сегодня бесплатно доступна Grok 4.1 Fast — очень компетентная модель (но этот список меняется каждые несколько дней).
Это полностью поддерживается в Discourse AI.
Локальные модели могут работать, но обычно они довольно слабые, поэтому результаты будут довольно неравномерными.
Не говоря уже о Gemini… На мой взгляд, бесплатный тариф очень щедрый.
Если я могу использовать локальную LLM, как мне это сделать?
Как мне использовать Gemini на моём форуме, пожалуйста?