L'AI bot può riassumere grandi quantità di testo?

La maggior parte dei nostri contenuti è basata su video. La nostra idea era di pubblicare il video (Vimeo) e poi inserire una trascrizione nel corpo del testo, nascondendola utilizzando la funzione di riepilogo.

Una semplice domanda, come “per favore, fornisci un riepilogo dettagliato della presentazione più recente di George Gammon da Rebel Capitalist Live”, ha mandato in crash il bot.

“Sfortunatamente, i dettagli completi della trascrizione della sua presentazione non sono disponibili direttamente nel breve estratto. Tuttavia, esplorare il video collegato potrebbe essere il modo migliore per accedere al contenuto completo della sua presentazione.”

Sono solo curioso, c’è un modo per far sì che il bot esamini effettivamente la trascrizione e la riassuma?

Ho notato che non sta attingendo alla trascrizione completa ma a un breve estratto. Potrebbe essere questo il problema?

Grazie

Questo dovrebbe sicuramente funzionare, se si utilizza lo strumento “leggi” leggerà l’intero post.

Puoi condividere la conversazione che hai avuto, daremo un’occhiata? Se preferisci mantenerla privata, saremo lieti di spostarla nella casella di posta del team.

Ehi, grazie per essere intervenuto Sam. Penso che debba essere qualche problema di permessi. Sento di aver provato di tutto con i permessi e ancora non riesco a far leggere al bot il thread che ho creato…

il mio prompt: "puoi accedere al thread e alla trascrizione in questa pagina?

https://forum.georgegammon.com/t/joseph-wang-june-1-2024-0850/15498"

“Ciao collega capitalista ribelle, spero tu stia bene! Sembra che l’argomento che hai fornito (Joseph Wang - 1 giugno 2024) non sia stato trovato o potrebbe non essere accessibile in questo momento. Se hai altri dettagli o un altro link, sentiti libero di condividerli con me e farò del mio meglio per assisterti!”

Non è un link pubblico. Per qualche motivo, a volte gli argomenti devono essere everybody, a volte no. E se un bot prova a usare il link completo, lo farà come un… browser web. E forse il login forzato è un problema?

Un esempio di molti che sto cercando di risolvere è questo:

Ecco una presentazione. All’interno del riassunto c’è la trascrizione della presentazione

Chiedo al bot:

“Puoi fornirmi un riassunto dettagliato dell’ultima presentazione di George Gammon da Rebel Capitalist Live 5 del 1 giugno 2024?”

Restituisce:

Ci sono persone bot AI qui che sanno quello che fanno e che posso assumere in modo da smettere di perdere tempo con questa cosa e andare avanti?

1 Mi Piace

Ho certamente provato quella sensazione un paio di volte. :slight_smile:

Se pubblichi in Marketplace dovresti riuscire a trovare qualcuno. :crossed_fingers:

Ottimo punto, lo farò.. Ti apprezzo @JammyDodger

1 Mi Piace

Non sono sicuro se devi assumere qualcuno qui, accederò e darò un’occhiata se sei d’accordo.

Dallo screenshot posso vedere che non hai abilitato il debug.

Read topic funziona solo su argomenti pubblici, ho aggiunto uno switch per consentire la ricerca di argomenti privati, farò lo stesso per lo strumento di lettura.

Tieni presente… l’IA di questi tempi è più arte che scienza, può fare molte cose ma è un sistema intrinsecamente imperfetto.

Dato il blocco nello screenshot, il problema è che stai cercando di accedere a un argomento privato.

3 Mi Piace

@sam sarebbe epico! Sì, per favore, unisciti se hai un momento. Ti sono sinceramente grato.

Gene

1 Mi Piace

Lo farò più tardi oggi, devo finalizzare una PR per consentire allo strumento (opzionalmente) di leggere il contenuto nel contesto della persona che parla con il bot.

1 Mi Piace

Perfetto! Grazie.

Ora è implementato, il comando di lettura ha ora questa opzione:

Il comando di lettura ora supporta la lettura di argomenti nel contesto dell’utente, se lo si desidera.

Testato sul tuo sito e funziona benissimo!

2 Mi Piace

Per essere assolutamente sicuri. Un utente significa in questo contesto un utente reale che ha effettuato una richiesta, non quell’utente fittizio dell’IA che cerca di rispondere? Voglio dire, entrambi gli utenti hanno diritti dal livello di fiducia.

Ciao Sam, questo funziona molto meglio per quanto riguarda le risposte. Grazie signore!

Sai perché il bot aggiungerebbe un /1 al post della presentazione di Wang, rompendo così il link?

Inoltre, ho notato che vuole portarti al sito di hosting video invece che al post, a meno che tu non sia specifico. E l’URL del post non funziona come menzionato sopra. Capisco cosa intendi con “più un’arte”.

Quando gli ho chiesto di mostrarmi dove posso guardare l’ultima presentazione di Joseph Wang da Rebel Capitalist live.

Ha detto:

“Puoi guardare la presentazione di Joseph Wang su Rebel Capitalist Live seguendo questo link: Joseph Wang - Rebel Capitalist Live Presentation. Il post di Joseph Wang nel forum Rebel Capitalist Live si trova qui.”

Il link del post funzionante dovrebbe essere :backhand_index_pointing_down::backhand_index_pointing_down:
https://forum.georgegammon.com/t/joseph-wang-june-1-2024-0850/15498

La risposta qui è molto “dipende”

  • Modelli LLM diversi funzionano meglio o peggio… ad esempio hai GPT 3.5 (il più economico / peggiore)… GPT 4o (più costoso / migliore). Ti consiglierei di ridurre la variabilità andando alla tua pagina LLM e disabilitando GPT-4 e 3.5 turbo e avendo abilitato solo 4o. https://forum.georgegammon.com/admin/plugins/discourse-ai/ai-llms

  • I prompt di sistema sono importanti, se vuoi che l’LLM si comporti in un certo modo, includi alcuni esempi di “buon comportamento” nel prompt di sistema.

  • C’è anche un aspetto di casualità che è difficile da controllare.

Per favore, riprova con GPT 4o e vedi come va.

2 Mi Piace

Grazie @sam, ha funzionato. Abbiamo anche aggiunto una riga aggiuntiva al prompt di sistema: “quando recuperi un link, assicurati che sia un link a qualcosa all’interno di questa piattaforma e nient’altro”.

Penso che questo bot abbia appena reso il nostro servizio 10 volte più prezioso per i nostri membri. :flexed_biceps::flexed_biceps::flexed_biceps:

2 Mi Piace