Bot de IA - Agentes

[Discourse]

Esta guía explica cómo configurar y gestionar Agentes para Discourse AI - Bot de IA.

Nivel de usuario requerido: Administrador

El bot de IA de Discourse incluye un sistema flexible para gestionar Agentes. Esta guía cubre:

• Métodos de interacción para Agentes de IA
• Opciones de configuración
• Ajustes avanzados
• Herramientas compatibles
• Posibilidades de personalización

Obtén información sobre el bot de IA y cómo habilitarlo en esta guía.

¿Qué son los agentes?

Los Agentes son una potente característica que te permite personalizar el comportamiento del motor de IA en tu foro de Discourse. Actúan como un ‘mensaje de sistema’ que guía las respuestas e interacciones de la IA, ayudando a crear una experiencia de usuario más personalizada y atractiva.

¿Por qué usar agentes?

Con los agentes, puedes adaptar el comportamiento de la IA para que se ajuste mejor al contexto y tono de tu foro. Ya sea que desees que la IA sea más formal para un entorno profesional, más informal para un foro comunitario, o incluso que encarne un personaje específico para un juego de rol, los agentes te dan la flexibilidad para hacerlo.

Acceso a agentes específico por grupo

Además, puedes configurarlo para que ciertos grupos de usuarios tengan acceso a agentes específicos. Esto significa que puedes tener diferentes comportamientos de IA para distintas secciones de tu foro, mejorando aún más la diversidad y riqueza de las interacciones de tu comunidad.

Interacción con Agentes

Se puede interactuar con los agentes de varias maneras:

1. Mensaje privado (MP)
2. Mensaje directo de chat (DM)
3. Menciones en canales de chat
4. Mención en un tema público a través de @nombre_de_usuario_del_bot

Los administradores pueden controlar qué métodos de interacción están permitidos para cada agente a través de cuatro interruptores separados:

• Permitir mensajes privados: Permite a los usuarios iniciar MPs con este agente (activado por defecto)
• Permitir menciones en temas: Permite que una @mención en temas desencadene una respuesta
• Permitir mensajes directos de chat: Permite DMs de chat con este agente (requiere el plugin de chat)
• Permitir menciones en canales de chat: Permite @mención en canales de chat (requiere el plugin de chat)

Configuración

Para configurar los Agentes, navega a discourse.example.com/admin/plugins/discourse-ai/ai-agents.

Las opciones clave de configuración incluyen:

• Prompt del sistema: Dirige la conversación
• Soporte de Visión: Habilitar para LLMs potenciados por Visión, es decir, GPT-4 Turbo, Claude 3
• Modelo por defecto: Requerido para agentes mencionables y agentes con LLM por defecto forzado habilitado
• Grupos permitidos: Define permisos usando la seguridad de grupo de Discourse
• Subidas: Indexa archivos de texto para conocimiento adicional (usando RAG - Generación Aumentada por Recuperación)
• Herramientas habilitadas: Controla el acceso a herramientas específicas
• Modo de ejecución: Elige entre el modo “default” (por defecto) y “agentic” (agéntico) (el modo agéntico permite el uso de herramientas multi-turno con límites de tokens y compresión configurables)

Aquí tienes un vistazo a una pantalla completa de configuración de agente de IA:

Opciones de configuración avanzada

El editor de agentes ofrece varias opciones avanzadas:

• Temperatura y top_p (muestreo de núcleo): Controlan la creatividad frente a la predictibilidad
• Posts máximos de contexto: Limita el número de posts suministrados al LLM para el historial: menos posts reducirán los costes, pero harán que la IA “olvide” el contenido más antiguo (no disponible en modo agéntico)
• Modo de ejecución: “Default” para respuestas de pasada única, “Agentic” para uso de herramientas de múltiples pasos con:
  • Tokens máximos de turno: Presupuesto de tokens para la ejecución agéntica
  • Umbral de compresión: Umbral porcentual para la compresión del contexto (20-99%)
• Mostrar pensamiento: Muestra el proceso de razonamiento de la IA a los usuarios (activado por defecto)
• Requiere aprobación: Requiere aprobación humana antes de ejecutar ciertas acciones
• Forzar LLM por defecto: Evita que los usuarios cambien los LLMs para este agente
• Formato de respuesta: Configura el formato de salida estructurada
• Ejemplos: Ejemplos de pocos disparos (few-shot examples) para guiar el comportamiento de la IA (pares de mensajes de usuario/asistente)
• Opciones de subida:
  • Tokens de fragmento: Controla la división de documentos
  • Tokens de superposición de fragmento: Establece la superposición entre fragmentos
  • Fragmentos de conversación de búsqueda: Número de fragmentos de documento añadidos a las consultas de usuario
  • LLM consolidado de preguntas: Elige el LLM para determinar las preguntas del usuario
  • Modelo LLM de RAG: Elige un LLM específico para el procesamiento RAG

Prerrequisitos para el soporte de subida

Para usar el soporte de subida:

1. Habilita la configuración ai_embeddings_enabled
2. Configura un modelo de incrustación (embedding model) a través de ai_embeddings_selected_model

Discourse AI soporta varios modelos de incrustación. Los clientes alojados obtienen acceso gratuito al modelo bge-large-en.

Los autoalojados o personas que deseen más opciones pueden autoalojar un modelo de incrustación o usar modelos de Open AI, Google (Gemini) y más.

División de texto en Discourse AI

Discourse utiliza un Divisor Recursivo de Caracteres de Texto para mantener párrafos, líneas y palabras juntas al dividir el texto. Puedes controlar la división de texto usando el separador [[metadata YOUR METADATA HERE]]:

[[metadata sobre gatos]]
una larga historia sobre gatos
[[metadata sobre perros]]
una larga historia sobre perros

Este método previene la “contaminación de fragmentos” asegurando que solo los datos relevantes se incluyan en cada fragmento.

Depuración de agentes de IA

Para depurar tu agente:

1. Añade usuarios al grupo especificado en la configuración ai_bot_debugging_allowed_groups
2. Los usuarios de este grupo verán un botón de depuración de IA en la parte inferior de las publicaciones de IA
3. Haz clic en el botón para acceder a la ventana modal de la interfaz de depuración

Recuerda: Si proporcionas información vaga o inútil a un LLM, tendrá muchas dificultades para convertirla en información útil.

Herramientas compatibles

Discourse AI soporta varias herramientas, incluyendo:

Siempre disponibles

• Categorías
• Tiempo
• Búsqueda
• Leer
• Esquema de Base de Datos
• Configuración de Búsqueda
• Contexto de Configuración
• Selector Aleatorio
• Navegador Web
• Buscar Meta Discourse
• Evaluador de JavaScript
• Investigador
• Marcar Tema
• Cerrar Tema
• Deslistar Tema
• Bloquear Publicación
• Eliminar Tema
• Editar Publicación
• Editar Categoría
• Establecer Temporizador de Tema
• Establecer Modo Lento
• Mover Publicaciones
• Otorgar Insignia

Integración con GitHub

• Contenido de Archivo de GitHub
• Diferencia de Solicitud de Extracción (Pull Request Diff) de GitHub
• Búsqueda de Archivos de GitHub

Estas tres herramientas están siempre disponibles. Además:

• Búsqueda de Código de GitHub requiere que se rellene la configuración ai_bot_github_access_token

Herramientas condicionales

• Etiquetas y Editar Etiquetas: Disponibles cuando el etiquetado está habilitado en tu sitio
• Generación de Imágenes (Imagen, Crear Imagen, Editar Imagen): Requiere que se configure una herramienta personalizada de generación de imágenes a través de la interfaz de administración
• Búsqueda de Google: Requiere que se rellenen las configuraciones ai_google_custom_search_api_key y ai_google_custom_search_cx
• Artefactos (Crear Artefacto, Actualizar Artefacto, Leer Artefacto): Disponibles cuando ai_artifact_security está configurado como lax, híbrido o estricto
• Asignar: Disponible cuando el plugin Assign está instalado
• Marcar como Solucionado: Disponible cuando el plugin Solved está instalado

Algunas herramientas requieren configuración adicional o claves API.

Soporte para herramientas personalizadas

Puedes crear tus propias herramientas usando el soporte para herramientas personalizadas.

Personalización de agentes del sistema

1. Crea un nuevo agente
2. Copia y pega el prompt del sistema del agente que deseas personalizar
3. Modifica según sea necesario
4. Opcionalmente, deshabilita el agente de sistema original para evitar duplicación

Personalización de la búsqueda

Para personalizar la búsqueda para un nuevo agente:

1. Crea un nuevo agente
2. Añade la herramienta “search” (búsqueda)
3. Configura las opciones de búsqueda, incluyendo:
   • Consulta de búsqueda base
   • Número máximo de resultados de búsqueda
   • Opción de incluir temas privados
     
     

Esto te permite delegar permisos de búsqueda, aumentar el número de resultados o restringir la búsqueda a secciones específicas de tu sitio.

[MachineScholar]

@Discourse

Leer

¿Qué hace exactamente la herramienta Leer?

Además, las menciones en las publicaciones están rotas actualmente según este informe de error.

[sam (Sam Saffron)]

[Untitled AI bot PM]

En resumen, permite que el LLM lea temas y publicaciones en tu foro.

[Jagster (Jakke Flemming)]

Básicamente lee un tema/publicación cuando se le da una URL, nombre o ID y, de lo contrario, o aún así, utiliza incrustaciones y qué, cuándo, por qué y cómo depende del propio modelo, ¿indicaciones, etc.?

[sam (Sam Saffron)]

Oh, lo siento, estaba respondiendo a una publicación diferente

Utiliza el ID del tema o el ID del tema + el número de publicación para encontrar el markdown sin procesar de un tema/publicación con algunas protecciones para la longitud máxima.

No depende de la incrustación.

[Jagster (Jakke Flemming)]

Un poco fuera de tema, pero como no tengo nada que preguntar y ustedes limpiarán estos temas de vez en cuando, no me importa.

Los títulos automáticos en los mensajes privados con IA ahora están en el idioma correcto. No es gran cosa, pero su valor psicológico es grande. ¡Gracias!

[jrgong]

¿Hay alguna forma de añadir usuarios Bot a un grupo? Básicamente quiero añadir un avatar flair a esos usuarios, pero al añadirlos a un grupo, no aparecen.

[Jagster (Jakke Flemming)]

No aparecen, pero siguen ahí. Puedes asegurarte intentando añadir una persona de IA por segunda vez. O puedes ver el grupo necesario en la configuración de esos pseudousuarios.

[MachineScholar]

¿Qué parte del repositorio de Discourse AI debería consultar si quiero saber exactamente cómo funcionan las herramientas del bot de IA?

[sam (Sam Saffron)]

Herramienta, Playground y Bot son todas buenas áreas para empezar.

Mira este ejemplo: Understanding Tools in Discourse AI System - AI Conversation - Discourse Meta

[MachineScholar]

Precisamente la respuesta que estaba buscando. ¡Muchas gracias, amable señor! Para quien pueda interesar: Recomiendo leer el código en este repositorio para poder dirigir mejor sus indicaciones para las herramientas de su persona.

[jrgong]

Actualmente estoy intentando obtener todas las publicaciones de un tema a través de la herramienta “Leer”, pero solo proporciona un máximo de 100 publicaciones al modelo LLM. Ya he establecido “Máx. publicaciones” en 999 en la configuración de la persona, pero el problema persiste.

¿Podría haber alguna limitación en la solicitud de la API del lado del servidor que esté causando el problema?

[jrgong]

@sam ¿alguna idea sobre esto, cuál podría ser la causa?

[MachineScholar]

No he revisado el código, pero sospecho que podría ser un límite estricto establecido en el propio código. ¿Puedo preguntar qué es lo que intentas lograr con esto? Ese es un factor clave aquí.

¿Y tal vez sería mejor usar la personalidad del Investigador del Foro?

[jrgong]

Tenemos la categoría “journal/log” que a menudo contiene varios cientos de publicaciones donde el propietario del tema informa sobre el progreso de su proyecto durante un período de 4 a 5 meses.

Mi objetivo es obtener todas las publicaciones dentro de ese tema, filtrarlas por autor = propietario del tema y crear un resumen.

[sam (Sam Saffron)]

Tienes que usar el investigador de foros para esto, es el caso de uso exacto para el personaje.

[jrgong]

@sam

Actualmente, no hay opción para enviar imágenes al LLM de investigación. Esto se considerará en futuras versiones.

@sam Me encantaría, pero actualmente no admite imágenes. ¿Está eso en el plan o no es una prioridad en este momento?

[sam (Sam Saffron)]

Claro que puedo añadir eso, no es un cambio muy grande.