Bonjour à tous !
J’aimerais suggérer quelques fonctionnalités utiles pour le plugin Discourse AI :
-
Suivi de l’utilisation des tokens par utilisateur
Cela permettrait aux administrateurs de surveiller le nombre de tokens que chaque utilisateur consomme lors de ses interactions avec l’IA. Cela pourrait aider à prévenir les abus et à définir des limites de tokens par utilisateur ou par groupe. Voir une ventilation détaillée de l’utilisation des tokens par utilisateur donnerait un meilleur aperçu des modèles d’utilisation et des coûts.
Nous utilisons la langue russe dans notre communauté pour discuter avec l’IA, mais le tokenizer OpenAI ne fonctionne pas bien avec la langue russe. Un token peut être un symbole, et c’est très cher pour nous ! -
Permettre aux utilisateurs de créer des personas d’IA personnalisés
Laisser les utilisateurs définir la persona de leur assistant IA (créer des prompts personnalisés) pour des interactions plus engageantes et personnalisées. Donner cette flexibilité aux utilisateurs inspirerait des utilisations plus créatives de l’IA sur le forum. -
Définir un nombre maximum par défaut de messages à inclure comme contexte
Ajouter une option par défaut pour tous les personas afin de limiter le contexte à un certain nombre de messages récents pourrait aider à maîtriser l’utilisation des tokens tout en donnant à l’IA suffisamment de contexte pour répondre de manière appropriée. -
Possibilité d’utiliser du texte provenant de sources de données personnalisées
L’intégration de chargeurs de documents pour des sources telles que les PDF, les pages Web, les fichiers Google Drive, etc., faciliterait l’interaction des utilisateurs avec les informations et ne semble pas très difficile à mettre en œuvre. Imaginez pouvoir faire en sorte que l’IA référence des informations d’un livre blanc téléchargé au format PDF, ou des faits de pages Web spécifiques, lors d’une discussion sur un sujet. Ceci est particulièrement utile pour les communautés universitaires comme la mienne, qui traitent souvent d’articles dans différents formats. Cela pourrait décupler les capacités de l’IA dans les discussions spécialisées. Des outils de chargement de documents comme LangChain pourraient potentiellement être utilisés à cette fin : Document Loaders —
LangChain 0.0.146 -
Prise en charge des URL de base d’API personnalisées pour tous les modèles d’IA
Actuellement, les URL d’API personnalisées ne sont prises en charge que pour OpenAI. Étendre cette capacité à tous les fournisseurs d’IA pris en charge serait très utile pour ceux qui ont besoin d’utiliser un proxy inverse ou d’autres points d’extrémité d’API non standard. Beaucoup d’entre nous s’appuient sur des proxys inverses pour des raisons de sécurité, de conformité ou de gestion des coûts, de sorte que la flexibilité de router les requêtes d’IA via notre propre infrastructure faciliterait grandement l’intégration de ce plugin dans nos environnements. -
Générer des titres de chat localisés en fonction de la langue de l’utilisateur
Actuellement, l’IA génère des titres de chat uniquement en anglais. La possibilité de créer des titres dans la langue préférée de l’utilisateur offrirait une meilleure expérience utilisateur, en particulier pour les communautés non anglophones.
Faites-moi savoir ce que vous en pensez !
