Si votre site Discourse est hébergé par nos soins, vous avez peut-être remarqué un LLM appelé CDCK Hosted Model ou CDCK/MoM dans vos paramètres d’IA, qui alimente des fonctionnalités comme la synthèse, la recherche par IA, et bien d’autres. Ce sujet explique ce que c’est et comment cela fonctionne.
La version courte
CDCK/MoM (« Mixture of Models », soit « Mélange de modèles ») est le LLM intégré que nous fournissons aux clients hébergés sans frais supplémentaires, financé par votre dotation quotidienne en crédits d’IA. Plutôt qu’un modèle unique, il s’agit d’une couche de routage intelligente opérée par CDCK (l’entreprise derrière Discourse) qui envoie chaque requête à l’un de plusieurs modèles open-weight sélectionnés.
Pourquoi un mélange de modèles ?
Différentes fonctionnalités d’IA ont des besoins différents. Résumer un long sujet, générer du contexte pour les embeddings de recherche, et alimenter une persona d’assistant ne sollicitent pas un modèle de la même façon — la longueur de contexte, la vitesse, la profondeur du raisonnement et le coût varient tous.
Plutôt que de lier chaque fonctionnalité à un modèle unique, CDCK/MoM dirige chaque requête vers le modèle le mieux adapté à la tâche. Cela nous permet de :
- Adapter le modèle à la tâche — les tâches rapides sont confiées à des modèles rapides, les tâches plus lourdes à des modèles plus performants.
- Rester à la pointe — dès que de meilleurs modèles deviennent disponibles, nous pouvons mettre à jour le parc en arrière-plan. Votre site en profite immédiatement, sans aucune modification de configuration de votre côté.
- Garder c’est gratuit — un routage efficace nous permet d’inclure une généreuse dotation quotidienne en crédits d’IA avec nos plans d’hébergement.
Quels modèles sont derrière tout ça ?
Le parc se compose actuellement de :
Cette sélection évolura avec le temps à mesure que le paysage des modèles ouverts s’améliore — c’est tout l’intérêt de la couche de routage. Nous tiendrons ce sujet à jour en fonction des évolutions du parc.
Comment fonctionnent les crédits d’IA ?
Chaque site hébergé avec les fonctionnalités d’IA activées reçoit une dotation quotidienne en crédits d’IA (mesurée en tokens). L’utilisation de CDCK/MoM puise dans cette dotation, qui se réinitialise chaque jour. Pour la plupart des communautés, la dotation incluse couvre confortablement l’usage quotidien des fonctionnalités d’IA intégrées.
Plus d’informations sur les crédits d’IA sur Unlock All Discourse AI Features with Our Hosted LLM et les valeurs actuelles par plan sur Discourse pricing | Discourse - Civilized Discussion
Questions fréquentes
Puis-je quand même utiliser mon propre LLM ?
Oui. CDCK/MoM est une solution par défaut, pas une obligation. Vous pouvez configurer vos propres clés API pour d’autres fournisseurs dans vos paramètres d’IA, et les utiliser en parallèle ou à la place de CDCK/MoM.
Mes résultats varieront-ils selon le modèle qui traite ma requête ?
Les modèles du parc sont sélectionnés pour offrir une qualité constante sur les fonctionnalités qu’ils prennent en charge. Le routage s’effectue par tâche, donc une fonctionnalité donnée se comportera de manière prévisible.
Où l’inférence s’effectue-t-elle, et que deviennent mes données ?
L’inférence s’effectue sur les mêmes serveurs et centres de données que ceux où nous faisons tourner l’application Discourse elle-même. Lors de l’utilisation de CDCK/MoM, vos données ne quittent jamais notre infrastructure et ne sont partagées avec aucun tiers fournisseur d’IA.
Des questions ? N’hésitez pas, posez-les ci-dessous !