Faça upload e discuta PDFs no composer

[BrianC (Brian)]

Olá a todos,

Não tenho certeza se esta é a maneira correta de fazer uma solicitação de recurso, mas queria referenciar esta postagem com Sam.

A ideia é permitir que os usuários enviem arquivos PDF ou TXT diretamente no chat e que a IA processe e responda a perguntas sobre o conteúdo. Parece que grande parte da infraestrutura já está implementada e isso poderia agregar um valor tremendo para discussões interativas.

Adoraria ouvir suas opiniões sobre isso!

Obrigado,
Brian

[MachineScholar]

Esta é uma solução perfeita para inúmeras organizações que executam uma instância do Discourse. Além disso, o plugin de IA poderia ter uma configuração global para permitir/negar o upload de documentos para personas e o painel de administração poderia ter uma nova aba com algumas configurações para tamanho de chunking, número de resultados, etc., que podem ser globais ou por LLM. Como você mencionou, parece que grande parte ou até a maioria da infraestrutura de código já existe para este recurso.

@MachineScholar

Pessoalmente, trabalho com muitas pessoas que não podem realmente usar nenhuma IA em seu trabalho (ChatGPT, Claude, Perplexity, etc.) devido a preocupações com privacidade e outras. Eles também não têm e não podem pagar engenheiros de IA dedicados para construir uma solução personalizada, nem são indivíduos técnicos. Portanto, vejo uma lacuna de mercado muito grande aqui para pequenas e médias empresas/organizações, onde o Discourse AI é a solução perfeita.

[BrianC (Brian)]

@sam você acha que este verá desenvolvimento em algum momento?

[MachineScholar]

Espero que haja esperança, pois acabamos de receber uploads de PDF no editor de persona para RAG

PDF support in Discourse AI

This guide explains how to implement and use PDF processing capabilities within discourse-ai, including both basic text extraction and enhanced processing with LLM assistance. Required user level: Administrator Summary The discourse-ai plugin supports PDF processing for RAG (Retrieval-Augmented Generation) in two distinct modes: Basic text extraction Enhanced processing with LLM analysis Basic text extraction This mode provides fundamental PDF processing c…

[sam (Sam Saffron)]

A coisa complicada aqui é a UI.

Existe um “lead time” para um PDF ou arquivo de texto grande ser indexado. E existe um desafio de UI.

1. Posts #1,7,27 carregaram PDFs/Texto… como o usuário descobre o que está acontecendo?
2. Você carrega no post #1, mas levará 5 minutos até que esteja disponível, como você comunica isso ao usuário?

Tecnicamente, acho que a única maneira de contornar ambos de forma direta é algum tipo de UI personalizada para uploads.

O desafio de UI aqui é o maior obstáculo, a mecânica real não é muito complicada.

cc @awesomerobot / @Falco

[MachineScholar]

@sam

Tecnicamente, acho que a única maneira direta de contornar ambos é algum tipo de interface de usuário personalizada para uploads.

Não sou um cara de frontend de forma alguma, então tudo isso pode ser sem sentido, mas segure minha cerveja…

Modal de upload de IA

Proponho que possa haver um botão "doc IA" na barra de ferramentas do compositor que inicie um modal especial de upload de IA (através do qual o usuário pode selecionar processamento padrão ou aprimorado e algumas outras configurações). Então, o tópico/post pode ou ser (e talvez possa haver uma configuração do site para determinar esse comportamento):

1. Cinza e invisível para outros na thread, exceto para o usuário que está postando, até que o processamento seja concluído — após o qual, torna-se publicamente visível. OU…
2. O post poderia ser salvo como um rascunho e o upload continuaria em segundo plano. Quando aberto, mostraria aquele modal de upload de IA com o progresso do upload. Essencialmente, proibindo a publicação até que o upload de IA seja concluído ou cancelado.

• Em ambos os casos, pode haver uma configuração que permita enviar uma notificação ao usuário quando o upload for concluído.

Acompanhamento de uploads

Em relação ao acompanhamento dos uploads em todo o tópico, uma lista dos arquivos com seu número de post associado (mais talvez tamanho, etc.) poderia ser injetada neste local sob as estatísticas do tópico: