Plugin IA Discourse : découverte de modèle manquante et valeurs par défaut sensées (des plans ou des plugins communautaires ?)

Bonjour à tous :waving_hand:,

Tout d’abord, merci à l’équipe de Discourse d’avoir créé et maintenu le plugin d’IA officiel. Il est clair que beaucoup de réflexion a été consacrée à le rendre stable et flexible pour différents scénarios de déploiement.

Ceci étant dit, après avoir intégré plusieurs fournisseurs d’IA (y compris des passerelles compatibles OpenAI et des points de terminaison Gemini tiers), j’ai rencontré quelques lacunes en matière d’expérience utilisateur (UX) qui deviennent de plus en plus pénibles à mesure que les outils d’IA mûrissent. Je voulais demander s’il existe des plans pour y remédier — ou s’il y a un intérêt pour un plugin communautaire qui le ferait.


1. Aucune découverte de modèle / liste de modèles depuis le fournisseur

Actuellement, lors de l’ajout d’un modèle, l’administrateur doit manuellement :

  • Entrer l’ID du modèle
  • Connaître à l’avance quels modèles sont pris en charge par le fournisseur
  • S’assurer que l’ID est orthographié exactement correctement

Dans la plupart des outils et passerelles d’IA modernes (OpenAI Playground, OpenRouter, OneAPI, LM Studio, etc.), il est désormais courant de :

  • Récupérer une liste des modèles disponibles auprès du fournisseur (par exemple, /v1/models)
  • Laisser l’utilisateur sélectionner dans une liste déroulante
  • Afficher éventuellement les capacités de base (longueur du contexte, prise en charge de la vision, etc.)

Je comprends que Discourse AI prend en charge de nombreux backends non standard ou proxifiés, et que tous les fournisseurs n’implémentent pas la liste des modèles de manière cohérente. Néanmoins, même une action optionnelle « Récupérer les modèles depuis le fournisseur » (au mieux des efforts, compatible OpenAI) améliorerait considérablement l’utilisabilité pour de nombreuses configurations.


2. La fenêtre de contexte ne devrait pas nécessiter une saisie manuelle (ou devrait avoir une valeur par défaut)

Actuellement, le champ fenêtre de contexte n’a pas de valeur par défaut et doit être saisi manuellement.

Du point de vue de l’utilisateur, il semble que le plugin devrait soit :

  • Utiliser par défaut le contexte maximal connu du modèle, soit
  • Revenir à une valeur par défaut sûre et raisonnable si elle est inconnue, soit
  • Traiter une valeur vide comme « utiliser la valeur par défaut du fournisseur/modèle »

Obliger les administrateurs à rechercher et à saisir manuellement les tailles de contexte est source d’erreurs et inutile, surtout lorsque le nom du modèle implique déjà cette information dans la plupart des cas.


3. Question : plans, modèles ou plugins communautaires ?

Mes questions à la communauté et aux mainteneurs sont donc les suivantes :

  • Y a-t-il des plans pour améliorer la découverte des modèles et les valeurs par défaut dans le plugin d’IA officiel ?
  • Existe-t-il des modèles recommandés pour gérer cela de manière plus ergonomique aujourd’hui ?
  • Quelqu’un connaît-il (ou travaille-t-il sur) un plugin ou une extension communautaire qui comble ces lacunes ?

Si la réponse est « non, et il est peu probable que cela soit intégré au cœur », j’envisagerais sérieusement d’expérimenter avec un petit plugin complémentaire axé uniquement sur :

  • La découverte de modèles
  • Les métadonnées de capacités
  • Les valeurs par défaut sensées

Avant de m’engager dans cette voie, je voulais vérifier si cela intéressait d’autres personnes, ou s’il y avait un contexte que j’aurais pu manquer.

Merci de votre lecture, et j’aimerais beaucoup connaître votre avis.

1 « J'aime »

Je soupçonne que quelqu’un a développé ce plugin. Veuillez me le recommander immédiatement, merci.

Taille de la fenêtre de contexte du modèle

Taille maximale de jetons de contexte pour le modèle. Si elle est de 0, elle sera automatiquement renseignée à partir des métadonnées du modèle (le cas échéant), ou elle pourra être modifiée manuellement.

Votre premier point ici est-il le même que dans ce sujet ?

1 « J'aime »