Si vous utilisez notre LLM hébergé par CDCK et que vous avez épuisé vos crédits d’IA, ne vous inquiétez pas, vous avez encore quelques options pour que vos fonctionnalités d’IA continuent de fonctionner sans problème.
Pourquoi cela se produit
Chaque site Discourse est préconfiguré avec notre modèle LLM hébergé par CDCK auquel est alloué un solde de crédits quotidien basé sur votre plan d’hébergement. Une fois ces crédits consommés, toutes les fonctionnalités d’IA dépendant du LLM hébergé seront mises en pause jusqu’à ce que les crédits soient réinitialisés le jour suivant.
Options
Mettre à niveau votre plan pour plus de crédits
La mise à niveau augmente immédiatement votre réserve de crédits. Cette option fonctionne mieux si vous comptez sur le LLM hébergé et souhaitez une utilisation prévisible incluse dans votre forfait.
Si vous souhaitez continuer à utiliser le LLM hébergé par CDCK avec une limite plus élevée, accédez à Admin → Tableau de bord → Mettre à niveau le plan, pour passer à un niveau supérieur avec une allocation de crédits d’IA plus importante.
Se connecter à un fournisseur LLM tiers
L’utilisation de votre propre LLM signifie que les crédits CDCK ne sont plus consommés pour ces fonctionnalités.
Si vous souhaitez éviter complètement les limites de crédits hébergés, vous pouvez apporter votre propre clé d’API.
- Allez à Admin → Plugins → Discourse AI → LLMs
- Cliquez sur
Configurer en utilisant un modèle de LLM préconfiguré ou en utilisant l’option de configuration manuelle. - Remplissez les détails du fournisseur, la clé d’API et testez votre modèle préféré
- Attribuez ce modèle comme votre LLM par défaut ou configurez-le pour les fonctionnalités spécifiques que vous souhaitez alimenter.
Pour plus d’informations sur la configuration des LLM tiers sur Discourse AI, consultez Discourse AI - Page des paramètres du grand modèle linguistique (LLM)
Réduire l’utilisation en définissant des quotas par groupe
Les administrateurs peuvent limiter le nombre de jetons ou le nombre de fois que chaque utilisateur d’un groupe peut utiliser les fonctionnalités d’IA. Cette option est idéale si vous souhaitez rester sur votre niveau actuel mais contrôler plus étroitement l’utilisation.
Où le configurer :
- Admin → Plugins → Discourse AI → LLMs
- Sélectionnez Modifier sur LLM hébergé par CDCK
- Appuyez sur le bouton Ajouter un quota pour ajouter des limites de jetons ou d’utilisation par groupe
Ce que cela fait :
- Met une limite stricte sur le nombre de jetons ou le nombre de requêtes que chaque utilisateur d’un groupe peut effectuer dans une période configurable (1 heure, 6 heures, 24 heures, 7 jours ou une durée personnalisée)
- Aide à empêcher les utilisateurs intensifs de consommer l’intégralité du pool de crédits
- Vous permet d’étirer vos crédits existants sans mettre à niveau votre forfait