Falls deine Discourse-Seite bei uns gehostet wird, ist dir vielleicht ein LLM namens CDCK Hosted Model oder CDCK/MoM in deinen KI-Einstellungen aufgefallen, das Funktionen wie Zusammenfassungen, KI-Suche und mehr ermöglicht. In diesem Thema erfährst du, was es ist und wie es funktioniert.
Die Kurzfassung
CDCK/MoM (“Mixture of Models”) ist das eingebaute LLM, das wir Hosting-Kunden ohne Zusatzkosten bereitstellen. Es wird aus der täglichen Zuteilung an KI-Credits deiner Seite gespeist. Statt eines einzelnen Modells handelt es sich um eine intelligente Routing-Schicht, die von CDCK (dem Unternehmen hinter Discourse) betrieben wird. Sie leitet jede Anfrage an eines von mehreren kuratierten Open-Weight-Modellen weiter.
Warum eine Mischung aus Modellen?
Unterschiedliche KI-Funktionen haben unterschiedliche Anforderungen. Die Zusammenfassung eines langen Themas, das Generieren von Such-Embeddings und Kontext sowie die Versorgung einer Assistenz-Persona stellen jeweils verschiedene Ansprüche an ein Modell — Kontextlänge, Geschwindigkeit, Argumentationstiefe und Kosten variieren.
Anstatt jede Funktion an ein einzelnes Modell zu binden, leitet CDCK/MoM jede Anfrage an das Modell weiter, das sich am besten für die jeweilige Aufgabe eignet. Das ermöglicht es uns:
- Das Modell an die Aufgabe anzupassen — schnelle Aufgaben bekommen schnelle Modelle; anspruchsvollere Aufgaben erhalten leistungsfähigere.
- Aktuell zu bleiben — sobald bessere Modelle verfügbar werden, können wir den Pool im Hintergrund aktualisieren. Deine Seite profitiert sofort, ohne dass du etwas konfigurieren musst.
- Es kostenlos zu halten — durch effizientes Routing können wir Hosting-Pläne mit einem großzügigen täglichen Kontingent an KI-Credits ausstatten.
Welche Modelle stecken dahinter?
Der Pool besteht derzeit aus:
Dieses Sortiment wird sich im Laufe der Zeit weiterentwickeln, da sich die Landschaft der offenen Modelle verbessert — genau dafür wurde die Routing-Schicht geschaffen. Wir halten dieses Thema aktuell, sobald sich der Pool ändert.
Wie funktionieren KI-Credits?
Jede gehostete Seite mit aktivierten KI-Funktionen erhält ein tägliches Kontingent an KI-Credits (gemessen in Tokens). Die Nutzung von CDCK/MoM verbraucht Credits aus diesem Kontingent, und es wird täglich zurückgesetzt. Für die meisten Communities deckt das enthaltene Kontingent die tägliche Nutzung der eingebauten KI-Funktionen komfortabel ab.
Mehr zu KI-Credits unter Unlock All Discourse AI Features with Our Hosted LLM und aktuelle Werte pro Plan unter Discourse pricing | Discourse - Civilized Discussion
Häufig gestellte Fragen
Kann ich weiterhin mein eigenes LLM verwenden?
Ja. CDCK/MoM ist ein Standard, keine Voraussetzung. Du kannst in deinen KI-Einstellungen eigene API-Keys für andere Anbieter konfigurieren und sie neben oder anstelle von CDCK/MoM verwenden.
Unterscheiden sich die Ergebnisse je nachdem, welches Modell meine Anfrage bearbeitet?
Die Modelle im Pool wurden so ausgewählt, dass sie für die jeweiligen Funktionen eine konsistente Qualität liefern. Das Routing erfolgt aufgabenspezifisch, sodass eine bestimmte Funktion stets berechenbar bleibt.
Wo findet die Inferenz statt, und was passiert mit meinen Daten?
Die Inferenz läuft auf denselben Servern und in denselben Rechenzentren, auf denen auch die Discourse-Anwendung selbst betrieben wird. Bei der Nutzung von CDCK/MoM verlassen deine Daten unsere Infrastruktur nie und werden nicht mit Drittanbietern von KI-Diensten geteilt.
Fragen? Stell sie einfach unten.