Modelos de decisión TypeSafe Jev y otros del Sistema Uno

Me alegra mucho anunciar que ahora contamos con soporte integrado para modelos de decisión. :confetti_ball:

Los modelos de decisión fueron impulsados y desarrollados por primera vez por TypeSafe.ai y desde entonces han sido implementados por numerosos proveedores, incluyendo CloudFlare (clef), Open AI (decisions api) y muchos más.

Te permiten clasificar texto e imágenes respondiendo preguntas arbitrarias sobre las entradas de forma rápida, precisa y económica.

Anteriormente podíamos apoyarnos en modelos de lenguaje para este comportamiento, pero el costo/velocidad y la precisión no eran tan buenos.

Añadimos soporte directo a Discourse AI:


La nueva pestaña (por ahora) solo está habilitada si tienes Discourse Workflows activado (ya que es el único consumidor).

Una vez que tengas un modelo de decisión configurado, tendrás acceso a un nuevo modelo “Clasificar” en los flujos de trabajo.


La nueva inteligencia puede usarse en una gran cantidad de flujos de trabajo, ya que te permite clasificar texto (e imágenes) utilizando tu propio clasificador diseñado.

  • Moderación automática - recibe notificaciones cuando las discusiones se calientan
  • Notifica a miembros específicos del equipo cuando se discuten temas específicos
  • Etiquetado y categorización automática
  • Y mucho más

Disfrútalo y por favor comparte los flujos de trabajo interesantes que diseñes.

26 Me gusta

Me parece genial para agentes de clasificación de respuestas; ya estoy en mis primeras pruebas para ver cómo funciona. Entiendo que estos nuevos modelos para la toma de decisiones son muy precisos y rápidos, y me alegra que podamos tenerlos en Discourse.

Me pregunto si hay planes y/o si es técnicamente posible incorporarlos también en los agentes comunes, para desarrollar «ayudantes sénior» que primero clasifiquen y luego deleguen. ¿O eso no tiene ningún sentido?

Es probable que aún no haya comprendido del todo su mejor caso de uso real, y quizás esté preguntando algo fuera de lugar.

2 Me gusta

Creo que hay muchas aplicaciones posibles aquí. Usarlas como una puerta de entrada para encontrar el agente o subagente adecuado que dé la respuesta es algo que definitivamente quiero explorar.

¿Cómo ves que funcionaría?

Así es como lo visualizo, usando nuestra configuración como ejemplo. Nuestro agente principal tiene cinco subagentes:

Subagente Se selecciona cuando
publicator un miembro comparte un texto para mejorarlo antes de publicarlo
links enlaces sueltos para redactar una publicación
web cosas que cambian fuera del foro
base archivo curado: discusiones antiguas, documentos, libros
at un gráfico compartido por un miembro, revisado según nuestro método público

Hoy, el LLM padre lee las descripciones de los subagentes y elige uno con spawn_agent. La puerta (gate) le quitaría esa decisión a este:

  1. Una configuración de puerta en el agente, que apunte a un modelo de decisión.
  2. Las opciones serían las descripciones de subagentes que ya existen, más “responder tú mismo”. Nada nuevo para que los administradores escriban.
  3. Solo se ofrecen los subagentes a los que el usuario actual puede acceder.
  4. Por encima de un umbral de confianza, el subagente se ejecuta directamente. Por debajo, el resultado llega al LLM padre como una pista y el LLM decide, como hace ahora.
  5. Dado que los modelos de decisión clasifican imágenes, “un miembro compartió un gráfico” proviene de la propia imagen.

La misma puerta, formulada como una pregunta de sí/no, también funcionaría como una barandilla (guard) antes de que el LLM se ejecute.

Somos una comunidad educativa y no damos señales, objetivos de precio ni consejos de inversión, así que “¿esto está pidiendo una señal de trading?” → respuesta fija. Hoy, esa regla es una línea en cada prompt, y los modelos se desvían de ella bajo presión.

Si llegáis a implementarlo, nos encantaría probar una versión temprana en nuestro foro.