Развертывание OpenSource LLM для DiscourseAI на собственном сервере

Спасибо! Я тоже заметил, что URL работает только при включённом плагине AI :person_facepalming:

Есть ли какие-либо предложения, что выбрать/установить для следующих обязательных настроек для нового добавленного провайдера?

  1. Токенизатор
  2. Контекстное окно

Что касается модели, я подумывал, возможно, использовать stablelm2:1.6b или translategemma:4b, но пока не уверен.
В README последней есть описание входного промпта. Мне интересно, какой запрос отправляет функция перевода AI в Ollama. см. /admin/plugins/discourse-ai/ai-agents/-28/edit