Sieh dir diesen Leitfaden an:
Dann… warum möchtest du LLMs selbst hosten?
Für andere siehe Using Discourse and LibreTranslate without AI, der thematisch verwandt ist.