Estoy configurando Discourse AI en mi foro y tengo un Bot/Agente de IA funcionando con Gemini 2.5 Flash a través de LiteLLM y Google Vertex AI.
El bot funciona, pero tengo un problema con su alcance.
Por ejemplo, mi foro es una comunidad enfocada en negocios. Si le pregunto al bot:
“¿A quién pertenece Uber?”
responde a la pregunta utilizando el conocimiento general del LLM, aunque la pregunta no tenga nada que ver con mi foro.
Esto crea dos problemas:
- Quiero que el bot funcione como un asistente de conocimiento específico del foro, no como una interfaz general de Gemini/ChatGPT.
- No quiero que los usuarios puedan hacer preguntas arbitrarias y consumir mis créditos de LLM.
Lo que idealmente me gustaría es:
El usuario hace una pregunta
↓
¿Es relevante para este foro?
↓
NO → rechazar educadamente
↓
SÍ
↓
Buscar en el conocimiento del foro
↓
Generar respuesta basada en el contenido del foro
