Discourse AI - Page des paramètres du modèle de langage étendu (LLM)

:bookmark: Ce guide couvre la page des paramètres des LLM, qui fait partie du plugin Discourse AI.

:person_raising_hand: Niveau d’utilisateur requis : Administrateur

La page de paramètres dédiée est conçue pour regrouper tout ce qui concerne les grands modèles linguistiques (LLM) utilisés pour les fonctionnalités de Discourse AI.

:raised_hand_with_fingers_splayed: Selon la fonctionnalité de Discourse AI activée, un LLM pourrait être nécessaire. Veuillez vérifier chaque fonctionnalité de Discourse AI pour savoir si un LLM est un prérequis.


Fonctionnalités

  • Ajouter de nouveaux modèles, avec des informations pré-remplies
  • Ajouter des modèles personnalisés non mentionnés
  • Configurer les paramètres des LLM
  • Autoriser l’utilisation de LLM spécifiques pour le Bot IA
    • Voir le nom d’utilisateur du Bot IA
  • Activer le support de la vision (dépendant du modèle)
  • Configurer les types de pièces jointes autorisés
  • Configurer les quotas d’utilisation par groupe
  • Suivre les coûts des jetons d’entrée/sortie
  • Tester
  • Sauvegarder les paramètres

Ajout de connexions LLM

  1. Accéder à AdministrationPluginsIA
  2. Aller à l’onglet LLMs
  3. Ajouter une nouvelle connexion, choisir votre modèle
  4. Ajouter la clé API (selon le modèle, vous pourriez avoir plus de champs à saisir manuellement) et sauvegarder
  5. (Optionnel) Tester votre connexion pour s’assurer qu’elle fonctionne

LLM pris en charge

:person_tipping_hand: Vous pouvez toujours ajouter une option personnalisée si vous ne voyez pas votre modèle listé. Des modèles pris en charge sont continuellement ajoutés. Les modèles pré-configurés sont des modèles — vous pouvez toujours obtenir le même résultat en utilisant la « Configuration manuelle ».
Anthropic

  • Claude Opus 4.6
  • Claude Sonnet 4.6
  • Claude Haiku 4.5
    Google
  • Gemini 3 Pro
  • Gemini 3 Flash
    OpenAI
  • GPT-5.4
  • GPT-5 Mini
  • GPT-5 Nano
    Open Router
  • DeepSeek V3.2
  • Moonshot Kimi K2.5
  • xAI Grok 4 Fast
  • MiniMax M2.5
  • Z-AI GLM-5
  • … et bien d’autres encore
    De plus, les clients hébergés peuvent utiliser le Small LLM hébergé par CDCK pré-configuré sur la page des paramètres. Il s’agit d’un LLM à poids ouverts hébergé par Discourse, prêt à être utilisé pour alimenter les fonctionnalités d’IA.

Champs de configuration

:information_source: Vous ne verrez que les champs pertinents pour votre fournisseur de LLM sélectionné. Veuillez vérifier à nouveau tous les champs pré-remplis avec le fournisseur approprié, tel que Nom du modèle
Champs de base :

  • Nom affiché — le nom convivial affiché dans les menus déroulants
  • Nom du modèle — l’identifiant du modèle envoyé à l’API (par exemple, claude-sonnet-4-6, gpt-5.2)
  • Fournisseur — le service hébergeant le modèle (par exemple, Anthropic, OpenAI, Google, AWS Bedrock, Azure, Open Router, etc.)
  • URL — l’URL du point de terminaison de l’API (non affiché pour AWS Bedrock)
  • Clé API — configurée via le système AI Secrets
  • Tokeniseur
  • Jetons de prompt max — contrôle l’élagage du prompt pour éviter les requêtes de taille excessive
  • Jetons de sortie max
  • Coût d'entrée / Coût de sortie — coût par million de jetons, utilisé pour le suivi de l’utilisation
  • Coût d'entrée mis en cache / Coût d'écriture du cache — pour les fournisseurs qui prennent en charge la mise en cache des prompts
  • Vision activée — active la compréhension d’images (dépendant du modèle)
  • Types de pièces jointes autorisés — types de fichiers que le modèle peut traiter
    Champs spécifiques au fournisseur (affichés dynamiquement en fonction du fournisseur sélectionné) :
  • AWS Bedrock : Clé d'accès, ARN de rôle, Région, options de raisonnement/réflexion, Mise en cache des prompts
  • Anthropic : options de raisonnement, Mise en cache des prompts
  • OpenAI : ID de l'organisation, Effort de raisonnement, Niveau de service
  • Google : Activer la réflexion, Niveau de réflexion
  • Open Router : Ordre des fournisseurs, Quantifications des fournisseurs
    Quotas (disponibles après la première sauvegarde) :
  • Les quotas d’utilisation par groupe peuvent être configurés avec un nombre max de jetons, un nombre max d’utilisations et une durée

FAQ technique

Qu’est-ce qu’un tokeniseur ?

  • Le tokeniseur traduit les chaînes en jetons, ce que le modèle utilise pour comprendre l’entrée.
    Quel nombre dois-je utiliser pour Jetons de prompt max ?
  • Une bonne règle empirique est 50 % de la fenêtre contextuelle du modèle, ce qui correspond à la somme du nombre de jetons que vous envoyez et du nombre de jetons qu’ils génèrent. Si le prompt devient trop volumineux, la requête échouera. Ce nombre est utilisé pour élaguer le prompt et éviter que cela ne se produise

Avertissements

  • Parfois, vous pourriez ne pas voir le modèle que vous vouliez utiliser listé. Bien que vous puissiez l’ajouter manuellement, nous prendrons en charge les modèles populaires à mesure qu’ils sortent.
11 « J'aime »

C’est trop difficile, je ne sais pas du tout comment faire. J’espère que des tutoriels spécifiques sur diverses IA seront mis à jour, comme les paramètres de connexion Google.

1 « J'aime »

20 messages ont été déplacés vers un nouveau sujet : Discussion aléatoire sur la configuration de LLM Discourse

6 messages ont été déplacés vers un nouveau sujet : Assistance needed upgrading Discourse