Auto-hospedagem de um LLM OpenSource para DiscourseAI

Obrigado! Também notei que a URL só funciona quando o plugin de IA está ativado :person_facepalming:

Para o provedor recém-adicionado, alguma sugestão sobre o que escolher/configurar para as seguintes configurações obrigatórias?

  1. Tokenizador
  2. Janela de contexto

Para o modelo, estava pensando em talvez usar stablelm2:1.6b ou translategemma:4b, mas ainda não sei.
No README do último, há uma descrição de um prompt de entrada. Me pergunto qual é a consulta que o recurso de tradução da IA envia para o Ollama. c.f. /admin/plugins/discourse-ai/ai-agents/-28/edit