Si bien conectar el bot de IA a API externas ha sido increíble, creo que sería muy útil para los administradores/desarrolladores poder crear cadenas de prompts usando LCEL en el editor de herramientas personalizadas para permitir flujos de trabajo más complejos y respuestas inteligentes turboalimentadas. O quizás el editor de herramientas personalizadas podría tener una funcionalidad de “constructor de cadenas” que esencialmente envuelva LangChain en una GUI para el administrador .
Alternativamente, sería muy útil permitir un tiempo de ejecución de más de dos segundos para que una cadena de prompts pueda alojarse en servidores diferentes y exponerse al servidor de Discourse. 2 segundos es suficiente para enviar algunos datos a la cadena, dejar que “piense” a través de su cadena y luego obtener una respuesta . Pero esto es más complejo y de nicho, y menos amigable para los no ingenieros. La primera propuesta tiene más sentido.
Por supuesto, ambas opciones introducen riesgos potenciales, por lo que idealmente habría un interruptor para habilitar con una advertencia/aviso adjunto .
¿Pero por qué hacer esto? Bueno, me alegra que lo preguntes .
El comportamiento/agencia compleja de la IA no se puede lograr realmente solo con un único prompt del sistema, y esa es precisamente la razón por la que se desarrolló LangChain. Soy un investigador de IA y estamos construyendo una arquitectura cognitiva basada en LLM (por ahora simple) que eventualmente interactuará con los usuarios . Discourse sería el medio más ideal para desatar a esta bestia, especialmente porque se puede acoplar con el plugin de automatizaciones — las posibilidades aquí son verdaderamente infinitas y me encanta .
Confío en que muchas otras empresas también se beneficiarían de poder aplicar agentes a sus foros. Los LLM son bastante impresionantes, sin embargo, reconocemos que los elementos de IA simbólica (basada en lógica/reglas) todavía son aplicables dentro de sistemas de IA más grandes, como arquitecturas cognitivas que se construyen para optimizar hacia un estado objetivo particular.
¡Me encantaría escuchar cualquier comentario, lluvia de ideas y crítica sobre esta idea!
Leo y entiendo palabras, y eso es todo, porque soy un usuario final que carece de conocimientos y comprensión básicos. Y no estoy totalmente seguro de si realmente estás intentando vender un concepto B2B o algo útil para los usuarios en un entorno de foro. O ambos, esa es también una situación posible.
Claro, es bueno tener una gran variedad de herramientas y no hay razón para que todos usen todas las herramientas. Es bueno tener un stock lo suficientemente grande para elegir.
¿Puedes dar ejemplos prácticos de lo que todo eso puede aportar al negocio detrás de un foro y para un usuario?
Se podrían idear infinitos casos de uso conectando LLMs para lograr un objetivo, pero aquí tienes un ejemplo sencillo y práctico…
Digamos que hay un foro para investigadores que necesitan encontrar artículos de investigación nuevos de forma rápida y sencilla. Se podría utilizar la biblioteca http ya disponible en el generador de herramientas personalizadas del plugin de IA, y luego crear una herramienta que envíe una solicitud a alguna base de datos de artículos (por ejemplo, arXiv o revistas académicas revisadas por pares). Pero esto es esencialmente solo un intento “único”.
Un mejor enfoque sería encadenar múltiples llamadas a LLM para adoptar un enfoque paso a paso para el problema:
chatear con el usuario sobre cuál es su tema de investigación (repetir esto varias veces para obtener muchos detalles)
resumir las necesidades del usuario según una plantilla predefinida
convertir ese resumen en una solicitud de API y recibir una lista de coincidencias potenciales de la base de datos de artículos
analizar el resumen de cada artículo para asegurarse de que sea realmente relevante
presentar esa lista al usuario y explicar por qué cada artículo es relevante para su tema de investigación.
Esto no es en lo que estoy trabajando (no quiero necesariamente revelar mi modelo de negocio y arquitectura ), pero es un ejemplo simple y realista que algunos desarrolladores están abordando.
Esencialmente, lo que intento vender a los usuarios (a través del encantador plugin de suscripciones) es el acceso a un bot de IA que es más complejo que solo un prompt del sistema con una herramienta simple conectada a algún servicio que devuelve algunos datos (precios de acciones, etc.). Más complejo en el sentido de que resuelve un problema / responde a una consulta del usuario en varios pasos, cada paso utilizando un LLM con un prompt del sistema diferente. Esto es esencialmente lo que hace el nuevo modelo o1 de OpenAI.
Si tienes la intención de ganar dinero con esto, ¿quizás sea razonable que envíes una solicitud de extracción (PR) de la capacidad? ¿Lo has considerado?
Creo que están añadiendo soporte para o1, así que ¿por qué no te quedas con eso?
Chatbot puede que ya funcione con o1, lo cual confirmaré cuando pueda probarlo sin gastar aún más dinero en mi cuenta para alcanzar el Nivel 5.
Definitivamente lo he considerado, pero como investigador de IA, mi experiencia/conocimiento de programación se concentra en Python y bibliotecas como NumPy, PyTorch, etc. . No sé nada de Ruby y muy poco de JavaScript. Aunque como me he enamorado de Discourse, tengo la resolución de empezar a aprender lentamente también el desarrollo de plugins de Discourse. ¡Así que si tienes alguna recomendación de recursos de aprendizaje, te lo agradecería!
o1 es agradable y útil, y predigo que lo usaré a menudo para codificar, sin embargo, en lo que estoy trabajando es en una arquitectura cognitiva, así que es una situación un poco diferente. Estoy más en la mentalidad de “quiero construir algo basado en la investigación en ciencias cognitivas computacionales, y sería genial si pudiera venderse” y no realmente “tengo una idea y puedo descargarla en OpenAI y ganar dinero”. Espero que eso tenga sentido .
Ah, sí, y nuestra arquitectura cognitiva sería ~20 veces más barata que o1 .
Aprende haciendo, primero copiando plugins existentes y eligiendo primero las funcionalidades más sencillas para que sea un proceso iterativo más fácil. Haz algo que realmente necesites, porque necesitarás el incentivo para superar las barreras que encuentres.
en el editor de herramientas personalizadas para permitir flujos de trabajo más complejos y respuestas inteligentes turboalimentadas. O quizás el editor de herramientas personalizadas podría tener una funcionalidad de “constructor de cadenas” que esencialmente envuelva LangChain en una GUI para el administrador 
.
. Pero esto es más complejo y de nicho, y menos amigable para los no ingenieros. La primera propuesta tiene más sentido.
.
. 
y estamos construyendo una arquitectura cognitiva basada en LLM (por ahora simple) que eventualmente interactuará con los usuarios 
. Discourse sería el medio más ideal para desatar a esta bestia, especialmente porque se puede acoplar con el plugin de automatizaciones — las posibilidades aquí son verdaderamente infinitas y me encanta 
.
¡Me encantaría escuchar cualquier comentario, lluvia de ideas y crítica sobre esta idea! 
¡Así que si tienes alguna recomendación de recursos de aprendizaje, te lo agradecería!
.
.