aas:
Discourse AI sembra fantastico e sono super ansioso di configurarlo sulla mia istanza self-hosted!
Una domanda che ho (o forse una richiesta di funzionalità) relativa al bot helper e agli embedding è: posso scegliere quali argomenti vengono utilizzati per la generazione aumentata da recupero (RAG) ? Ad esempio, sarebbe fantastico se potessi configurare il plugin per calcolare gli embedding solo per gli argomenti nelle mie categorie di documentazione ufficiale. Temo che se il bot costruisce un database vettoriale utilizzando tutto sul nostro forum, l’output non sarà abbastanza buono. Sarebbe anche interessante configurarlo per calcolare gli embedding solo per argomenti con tag specifici o argomenti risolti. Sono curioso dei dettagli saggio sul flusso di lavoro RAG. Discourse AI ha un flusso di lavoro RAG? Avremo la possibilità di controllare quali documenti vengono aggiunti al database vettoriale? Se abbiamo già una raccolta di embedding, possiamo configurare Discourse AI per utilizzarli quando chiamiamo l’helper o la ricerca semantica?
Ho visto questo brevemente menzionato qui, ma mi piacerebbe saperne di più!
Cosa in questa persona si basa sull’integrazione di Discourse, oltre all’utilizzo dell’interfaccia utente di Discourse come front-end per l’LLM esterno? Per la maggior parte delle nostre persone stiamo cercando di fare RAG, dove possiamo creare qualcosa che utilizzando un LLM “out of the shelf” non ti darà anche.
Per quanto ne so, il plugin Discourse AI costruisce un database vettoriale utilizzando tutti i post del forum, ma questo approccio verrà perfezionato per consentire agli utenti di specificare quali documenti includere. Ciò consentirà un controllo più granulare sui dati di addestramento e migliorerà la qualità delle risposte generate.
Inoltre, la possibilità di incorporare embedding pre-calcolati è ancora in fase di esplorazione…
1 Mi Piace