Subir y discutir PDFs en composer

Hola a todos,

No estoy seguro de si esta es la forma correcta de solicitar una función, pero quería hacer referencia a esta publicación con Sam.

La idea es permitir a los usuarios cargar archivos PDF o TXT directamente en el chat y que la IA procese y responda preguntas sobre el contenido. Parece que gran parte de la infraestructura ya está implementada y podría agregar un valor tremendo para las discusiones interactivas.

¡Me encantaría escuchar sus opiniones al respecto!

Gracias,
Brian

11 Me gusta

Esta es una solución perfecta para innumerables organizaciones que ejecutan una instancia de Discourse. Además, el plugin de IA podría tener una configuración global para permitir/denegar la carga de documentos a los personas y el panel de administración podría tener una nueva pestaña con algunas configuraciones para el tamaño de los fragmentos, el número de resultados, etc., que pueden ser globales o por LLM. Como usted mencionó, parece que gran parte o incluso la mayor parte de la infraestructura de código ya existe para esta función.

@sam ¿crees que este verá desarrollo en algún momento?

1 me gusta

Esperemos que haya esperanza, ya que acabamos de incorporar cargas de PDF en el editor de personas para RAG :face_with_peeking_eye:

Lo complicado aquí es la interfaz de usuario.

Hay un “tiempo de espera” para que un PDF o un archivo de texto grande se indexe. Y hay un desafío de interfaz de usuario.

  1. Las publicaciones n.º 1, 7 y 27 han subido PDFs/Texto… ¿cómo se da cuenta el usuario de lo que está sucediendo?
  2. Subes en la publicación n.º 1 pero tardará 5 minutos en estar disponible, ¿cómo se lo comunicas al usuario?

Técnicamente, creo que la única forma sencilla de superar ambos es algún tipo de interfaz de usuario personalizada para las cargas.

El desafío de la interfaz de usuario aquí es el mayor obstáculo, la mecánica real no es demasiado complicada.

cc @awesomerobot / @Falco

3 Me gusta

No soy un experto en frontend, así que todo esto puede no tener sentido, pero sujétame la cerveza…

Modal de carga de IA

Propongo que podría haber un botón de “documento de IA” en la barra de herramientas del compositor que lance un modal especial de carga de IA (a través del cual el usuario puede seleccionar procesamiento estándar o mejorado y algunas otras configuraciones). Luego, el tema/publicación puede o bien (y quizás podría haber una configuración del sitio para determinar este comportamiento):

  1. Quedar en gris e invisible para otros en el hilo excepto para el usuario que publica hasta que se complete el procesamiento, después de lo cual se volverá visible públicamente. O…
  2. La publicación podría guardarse como un borrador y la carga continuaría en segundo plano. Al abrirla, mostraría ese modal de carga de IA con el progreso de la carga. Esencialmente, no permitiría la publicación hasta que la carga de IA haya finalizado o se haya cancelado.
  • En ambos casos, podría haber una configuración que permita enviar una notificación al usuario cuando su carga haya finalizado.

Seguimiento de las cargas

En cuanto al seguimiento de las cargas a lo largo del tema, una lista de los archivos con su número de publicación asociado (más quizás el tamaño, etc.) podría insertarse en esta ubicación debajo de las estadísticas del tema:

1 me gusta