Self-Hosting eines OpenSource LLM für DiscourseAI

:sweat_smile:

Am nächsten zum Modell, das du auswählst. Für Gemma kannst du den von Gemini verwenden.

Hier legst du den maximalen Kontext deiner Bereitstellung fest.

Bitte nicht. Dieses Modell ist sehr, sehr, sehr, sehr, sehr alt. Es ist die schlechteste Wahl, die du treffen kannst.

Dieses Modell ist eine Generation zurück und hat sehr strenge Prompt-Anforderungen, die nicht mit Discourse kompatibel sind. Wir erwarten ein Standard-LLM für allgemeine Zwecke.

In dieser Größenordnung empfehle ich entweder Qwen 3.5 oder Gemma 4.

3 „Gefällt mir“