См. это руководство:
Тогда… зачем вам хостить LLM?
Для остальных см. Using Discourse and LibreTranslate without AI, это по теме.