Actualmente, a través del complemento Discourse Automation, puedes generar respuestas a temas basadas en palabras clave que se detectan. Esta opción está disponible como parte del script Auto Responder y se puede configurar mediante la opción Lista de pares de palabras/respuestas. Además, puedes usar clasificación automática con IA para proporcionar respuestas predefinidas en temas basadas en indicaciones de LLM, sus resultados y el contexto de la publicación.
La idea de la solicitud de función aquí es aplicar un giro de IA utilizando un LLM para descifrar lo que se escribe mediante indicaciones personalizables en lugar de depender de palabras clave. El LLM puede responder de manera inteligente en lugar de simplemente usar respuestas predefinidas.
¡Curioso por saber si a otras personas les interesa algo así y para qué lo usarían! ¡Siempre se agradecen ejemplos de casos de uso!
¡Por supuesto! Hay numerosos casos de uso para esto. Piensa en un bot de soporte básico: el usuario publica en la categoría “Ayuda” porque no sabe cómo usar alguna funcionalidad de Discourse. Luego, puede haber una persona o perfil designado que responda automáticamente a cada nuevo tema en esa categoría. Combinando esto con RAG, herramientas y una ingeniería de instrucciones detallada, puedes ser bastante creativo.
Hipotéticamente, cada categoría podría tener su propio “bot experto en la categoría”.
La idea es que puedes seleccionar una herramienta para hacer el triaje, esta a su vez puede crear temas, dar “me gusta”, hacer lo que quieras. Espero continuar trabajando en ello pronto.
Esto llegó internamente como una solicitud, por lo que se está explorando la idea basándose en ejemplos y casos de uso de la comunidad, en los que Sam está trabajando ahora.
Un ejemplo para mí sería animar a los usuarios a publicar en el lugar correcto. Es decir, si un tema parece no coincidir con la categoría, en lugar de hacer ese cambio automáticamente, quizás responder en el tema sugiriendo otras categorías.
Nuestro caso de uso para esto es que cuando un usuario publica una pregunta en nuestro Discourse, nos gustaría que la IA aproveche nuestro modelo entrenado para dar una primera respuesta al primer mensaje. Estamos tratando de ofrecer al usuario una respuesta rápida y bien informada con IA, y nosotros hacemos un seguimiento si es necesario.
Me encanta la idea de tener un experto en IA en cada categoría.
Trabajaré en la documentación mañana. Tenemos implementado lo que yo llamaría modo 1 y 2:
Ultra trivial, selecciona el objetivo y responde incondicionalmente (categoría / etiqueta / grupo de mensajes privados, etc.)
Clasificación + Respuesta, que te permite clasificar y luego responder dinámicamente con clasificación de LLM
También implementé el modo 3, mega sofisticado, que todavía está en progreso y deshabilitado por ahora.
Clasificación usando herramienta de IA
Esto está sin terminar, pero cuando esté listo permitirá cosas muy sofisticadas como clasificar usando un LLM y luego enrutar a la persona correcta y hacer otras cosas extremadamente complicadas.
Personalmente, no me gusta la idea de las respuestas automáticas debido al riesgo de molestar demasiado a nuestros usuarios (pero tal vez estamos mal acostumbrados con una tasa de respuesta decente a nuestros nuevos temas por parte de nuestros usuarios).
Sin embargo, me gusta más este caso de uso:
De hecho, tenemos algo como esto automatizado con una API desde hace años, donde respondemos con una respuesta predefinida después de 24 horas sin respuestas en un tema. Poder aumentar esta respuesta predefinida con LLMs sería fantástico (siempre que haya un interruptor para responder condicionalmente solo en temas sin respuesta después de x horas).
Whispers (que es un modo que admitimos) es una forma de evitar esto, úsalo para ayudar a los moderadores.
También creo que algunos flujos sofisticados pueden reducir mucho el riesgo aquí (tendrá que esperar a las herramientas)
Elaborar una respuesta
Pedir a LLM que evalúe cuánta valor añade la respuesta del 1 al 10
Si es 8 o superior, publicar la respuesta
Me encanta esta idea, requerirá un nuevo tipo de disparador de automatización, tendré que pensar en ello. Este tipo de “disparador en temas de la categoría X que no han recibido respuesta después de un día - comprobar cada 10 minutos” no es un disparador que tengamos en este momento… tenemos que averiguar cómo añadirlo a la automatización.
Tenemos un disparador de “tema estancado”, pero no creo que tenga la capacidad de “omitir” en “tiene una respuesta”, puede que necesitemos expandirlo.
Además, para las integraciones de API, una acción de “simplemente responde a este tema con esta persona” sería bastante increíble y muy, muy fácil de construir.
