Consulta esta guía:
Entonces… ¿por qué quieres alojar LLMs?
Para otros, consulta Using Discourse and LibreTranslate without AI, que está relacionado.