Estoy configurando Discourse AI en mi foro y tengo un Bot/Agente de IA funcionando con Gemini 2.5 Flash a través de LiteLLM y Google Vertex AI.
El bot funciona, pero tengo un problema con su alcance.
Por ejemplo, mi foro es una comunidad enfocada en negocios. Si le pregunto al bot:
“¿A quién pertenece Uber?”
responde a la pregunta utilizando el conocimiento general del LLM, aunque la pregunta no tenga nada que ver con mi foro.
Esto crea dos problemas:
Quiero que el bot funcione como un asistente de conocimiento específico del foro, no como una interfaz general de Gemini/ChatGPT.
No quiero que los usuarios puedan hacer preguntas arbitrarias y consumir mis créditos de LLM.
Lo que idealmente me gustaría es:
El usuario hace una pregunta
↓
¿Es relevante para este foro?
↓
NO → rechazar educadamente
↓
SÍ
↓
Buscar en el conocimiento del foro
↓
Generar respuesta basada en el contenido del foro
¿Has echado un vistazo a los Agentes? Quizás los Agentes de Investigación del Foro o de Asistencia en el Foro se ajusten mejor, ya que están optimizados para trabajar específicamente con el foro. ¿O es eso lo que ya estás utilizando?
Hmm… entonces quizás quieras crear tu propio agente con un prompt del sistema personalizado para que no responda a consultas fuera del ámbito de tu foro.
¡Gracias por tu pregunta! Dado que preguntaste en un canal de soporte de Discourse, responderé en el contexto de cómo los modelos de lenguaje potencian las funciones de IA de Discourse, pero avísame si en realidad querías una explicación técnica general de cómo funcionan los LLM, y puedo orientarte a otro lugar para eso.
Alguien por aquí debe saber cómo se hizo esa captura.
Aunque los prompts pueden influir en el comportamiento de un agente, no siempre son fiables. Logré engañar al agente de ask.discourse.com para que respondiera a algunas preguntas fuera de tema.
Sí, después de que una conversación se profundice y la encadene, puede lograr que continúe. No es una preocupación para nosotros, ya que alojamos los modelos nosotros mismos, por lo que de todos modos no pagamos por token. También analizamos todas las conversaciones en Ask diariamente y podemos bloquear a cualquier actor malintencionado. El flujo de moderación del foro sigue siendo el mismo.
Si desea aún más control del que le ofrece el prompt del sistema, puede probar algunos enfoques:
Flujos de trabajo
Nuestro nuevo complemento de flujo de trabajo le permitiría realizar un doble paso en cada mensaje, primero con un agente que evalúe si un mensaje debería recibir una respuesta, y luego otro que responda condicionalmente.
Modelos ajustados finamente
La forma más segura de controlar es implementar un modelo que realmente se haya entrenado con el comportamiento que desea.
Esto es fácil con Discourse AI, ya que le permite elegir y seleccionar LLMs para cada agente.
