Autoalojamiento de un LLM OpenSource para DiscourseAI

¡Gracias! También noté que la URL solo funciona cuando el plugin de IA está activado :person_facepalming:

Para el proveedor recién añadido, ¿alguna sugerencia sobre qué elegir/configurar para los siguientes ajustes obligatorios?

  1. Tokenizador
  2. Ventana de contexto

Para el modelo, estaba pensando en usar stablelm2:1.6b o translategemma:4b, pero aún no lo sé.
En el README de este último hay una descripción de un prompt de entrada. Me pregunto cuál es la consulta que la función de traducción de IA envía a Ollama. c.f. /admin/plugins/discourse-ai/ai-agents/-28/edit