Je suis en train de configurer Discourse AI sur mon forum et j’ai un bot/agent IA fonctionnant avec Gemini 2.5 Flash via LiteLLM et Google Vertex AI.
Le bot fonctionne, mais j’ai un problème avec son périmètre d’action.
Par exemple, mon forum est une communauté axée sur les affaires. Si je pose la question suivante au bot :
« Qui est le propriétaire d’Uber ? »
il répond à la question en utilisant les connaissances générales du LLM, même si la question n’a aucun rapport avec mon forum.
Cela crée deux problèmes :
- Je souhaite que le bot fonctionne comme un assistant de connaissances spécifique au forum, et non comme une interface générale pour Gemini/ChatGPT.
- Je ne veux pas que les utilisateurs puissent poser des questions arbitraires et consommer mes crédits LLM.
Ce que j’aimerais idéalement :
L’utilisateur pose une question
↓
Est-elle pertinente pour ce forum ?
↓
NON → refuser poliment
↓
OUI
↓
Rechercher dans les connaissances du forum
↓
Générer une réponse basée sur le contenu du forum
