Etwa mindestens 5 US-Dollar zusätzliche Stromkosten pro Monat für die GPU im Leerlauf – obwohl die inkrementellen Kosten für Discourse in Wirklichkeit null betragen, da ich die LLM bereits für andere Zwecke betreibe.
Aber sicherlich wäre es für kleine Foren und geringe Nutzung wirtschaftlicher, eine LLM als Dienstleistung zu nutzen. Für die Größenordnung des angebotenen Discourse-Hostings vermute ich jedoch, dass es sinnvoll sein könnte, dies intern zu hosten (und auch Wissen in diesem Bereich zu entwickeln, der wahrscheinlich wichtig sein wird).