Carica e discuti PDF in composer

[BrianC (Brian)]

Ciao a tutti,

Non sono sicuro se questo sia il modo corretto per fare una richiesta di funzionalità, ma volevo fare riferimento a questo post con Sam.

L’idea è di consentire agli utenti di caricare file PDF o TXT direttamente in chat e far sì che l’IA elabori e risponda a domande sul contenuto. Sembra che gran parte dell’infrastruttura sia già pronta e potrebbe aggiungere un valore enorme alle discussioni interattive.

Mi piacerebbe sentire i vostri pensieri a riguardo!

Grazie,
Brian

[MachineScholar]

Questa è una soluzione perfetta per innumerevoli organizzazioni che gestiscono un’istanza Discourse. Inoltre, il plugin AI potrebbe ottenere un’impostazione globale per consentire/disabilitare il caricamento di documenti alle persone e il pannello di amministrazione potrebbe ottenere una nuova scheda con alcune impostazioni per la dimensione dei chunk, il numero di risultati, ecc. che possono essere globali o per LLM. Come hai menzionato, sembra che gran parte o addirittura la maggior parte dell’infrastruttura di codice esista già per questa funzionalità.

@MachineScholar

Personalmente lavoro con molte persone che non possono utilizzare l’IA nel loro lavoro (ChatGPT, Claude, Perplexity, ecc.) a causa di problemi di privacy e di altro tipo. Inoltre, non dispongono né possono permettersi ingegneri AI dedicati per creare una soluzione personalizzata, né sono essi stessi individui tecnici. Pertanto, vedo un enorme divario di mercato qui per le piccole e medie imprese/organizzazioni, dove Discourse AI è la soluzione perfetta.

[BrianC (Brian)]

@sam pensi che questo vedrà uno sviluppo a un certo punto?

[MachineScholar]

Speriamo ci sia speranza dato che abbiamo appena aggiunto i caricamenti PDF nell’editor di persona per RAG

PDF support in Discourse AI

This guide explains how to implement and use PDF processing capabilities within discourse-ai, including both basic text extraction and enhanced processing with LLM assistance. Required user level: Administrator Summary The discourse-ai plugin supports PDF processing for RAG (Retrieval-Augmented Generation) in two distinct modes: Basic text extraction Enhanced processing with LLM analysis Basic text extraction This mode provides fundamental PDF processing c…

[sam (Sam Saffron)]

La cosa complicata qui è l’interfaccia utente.

C’è un “lead time” per indicizzare un PDF o un file di testo di grandi dimensioni. E c’è una sfida per l’interfaccia utente.

1. I post #1,7,27 hanno caricato PDF/Testo… come fa l’utente a capire cosa sta succedendo?
2. Carichi nel post #1 ma ci vorranno 5 minuti prima che sia disponibile, come comunichi questo all’utente?

Tecnicamente, penso che l’unico modo per aggirare entrambi questi problemi in modo semplice sia una sorta di interfaccia utente personalizzata per i caricamenti.

La sfida dell’interfaccia utente qui è l’ostacolo più grande, le meccaniche effettive non sono troppo complicate.

cc @awesomerobot / @Falco

[MachineScholar]

@sam

Tecnicamente, penso che l’unico modo per aggirare entrambi in modo semplice sia una sorta di interfaccia utente personalizzata per i caricamenti.

Non sono assolutamente un esperto di frontend, quindi tutto questo potrebbe essere privo di senso, ma tieni il mio drink…

Modale di caricamento AI

Propongo che ci possa essere un pulsante “doc AI” nella barra degli strumenti del compositore che avvia una speciale modale di caricamento AI (tramite la quale l’utente può selezionare l’elaborazione standard o avanzata e alcune altre impostazioni). Quindi il topic/post può o essere (e forse ci potrebbe essere un’impostazione del sito per determinare questo comportamento):

1. Oscurato e invisibile agli altri nel thread tranne che all’utente che pubblica fino al completamento dell’elaborazione, dopodiché diventerà visibile pubblicamente. OPPURE…
2. Il post potrebbe essere salvato come bozza e il caricamento continua in background. Quando viene aperto, mostra quella modale di caricamento AI con l’avanzamento del caricamento. Essenzialmente impedisce la pubblicazione fino a quando il caricamento AI non è stato completato o annullato.

• In entrambi i casi, ci potrebbe essere un’impostazione che consente di inviare una notifica all’utente al termine del caricamento.

Tenere traccia dei caricamenti

Per quanto riguarda il tracciamento dei caricamenti durante il topic, un elenco dei file con il loro numero di post associato (più forse le dimensioni, ecc.) potrebbe essere inserito in questa posizione sotto le statistiche del topic: