Ho cercato di inserire un riepilogo in un flusso di lavoro funzionante e ho riscontrato alcune cose:
Non c’è motivo di non avere un riepilogo dal primo post, poiché il riepilogo si evolverà man mano che l’argomento cresce. Naturalmente, questi aggiornamenti sono limitati dalle impostazioni.
Quando si lavora su un argomento, il riepilogo è posizionato in cima alla pagina, ma l’utente verrà sempre inviato in fondo (ultimo post, ultimo post letto). Quindi, invariabilmente, il riepilogo non verrà letto da questi utenti. È una cosa davvero interessante da avere, ma sospetto che non venga mai vista poiché un utente non scorrerà mai / non avrà motivo di scorrere fino in cima per vedere cosa dice il riepilogo, anche se è utile. Il riepilogo potrebbe essere posizionato nella colonna di destra sotto la riga del sommario / data? In modo che sia sempre visibile?
Tranne il costo e avere troppe informazioni duplicate contemporaneamente che occupano spazio?
Sicuramente un riepilogo aggiunge più valore una volta che le cose sono davvero avviate e hai almeno diversi post?
In ogni caso, sospetto che tu possa semplicemente impostare le tue soglie come preferisci qui, e non hai bisogno di alcuna azione da parte mia?
Sei sicuro che i lettori esistenti si preoccuperanno di leggere il riepilogo? Noto che il riepilogo è probabilmente più prezioso per i nuovi lettori che vedranno prima il riepilogo e potranno usarlo come guida per leggere ulteriormente?
Questa è comunque una bella idea, a patto che la larghezza della presentazione sia sufficiente per rendere la lettura confortevole? Potrebbe essere una sfida?
La mia soluzione sperimentale sarebbe quella di sfruttare il Layouts Plugin e creare un widget compatibile che possa apparire a destra o a sinistra di un Topic (infatti, se aggiungiamo il supporto Top, possiamo metterlo anche lì nella posizione originale!).
Nota che ci sono altri modi per affrontare questo problema:
Aggiungere un pulsante “sposta in alto” (c’è un componente del tema). Potresti persino modificarlo per includere un’etichetta che dice “vai al riepilogo”?
Lo aggiungerò comunque alla roadmap, ma fammi sapere cosa ne pensi di quanto sopra.
Sono d’accordo sull’aspetto dei costi, ma se dovesse mai essere utilizzato come “estratto alternativo”, dovrebbe essere generato un riassunto. Non sono sicuro di essere riuscito a farlo funzionare aggiornando le impostazioni. Forse mi è sfuggito qualcosa, tornerò a controllare.
Ottimo punto… Suppongo che il tempo lo dirà. Ma se gli utenti iniziano a sentirsi a proprio agio con il riassunto, vedo che col tempo daranno una rapida occhiata. Infatti, se alcuni utenti stanno lavorando su un certo numero di argomenti, penso che sia un buon promemoria veloce di ciò che è successo. Forse in futuro un utente potrebbe fare clic per generare un riassunto di ciò che è successo dall’ultima volta che è stato in un particolare argomento? (Ancora una volta, i costi lo permettono per la chiamata API)
Mi piace quest’idea, sì. Meglio del pulsante per saltare in cima, perché poi devi tornare a dove eri prima (che potrebbe non essere l’ultimo post).
Tranne che ho appena ricevuto un riassunto che conteneva i dettagli di un post interno “Whisper”. Ci sarebbe la possibilità di escludere questi post da ciò che viene inviato a openai?
Grazie per questo.
Ho però una domanda: escludete tutti i post degli amministratori? Ciò significa che è buona norma per un utente amministratore che pubblica avere 2 account separati, uno come amministratore e un altro per pubblicare e interagire con la community? Sul mio sito spesso pubblico argomenti e vorrei che fossero inclusi nel riepilogo (sono un amministratore del sito).
Grazie. Ho provato a installare e avviare questo plugin, ma quando provo a lasciare un commento in alcuni post restituisce un errore HTTP 500. In production.log vedo il messaggio:
StandardError (La lunghezza massima del contesto di questo modello è di 4097 token, tuttavia hai richiesto 15682 token (15482 nel tuo prompt; 200 per il completamento). Riduci la lunghezza del tuo prompt o del completamento.)
Abbastanza, quindi… devi ridurre la quantità che stai riassumendo utilizzando le impostazioni.
Non credo che questo sia un bug, sei semplicemente troppo avido
Devi regolare le impostazioni per adattarle alla tua configurazione. C’è un limite di post e un limite di caratteri che puoi controllare. Un token di solito è di 4 caratteri.
È possibile che le impostazioni predefinite siano un po’ troppo generose… ma sono impostate per approssimare il limite di token, quindi è un po’ strano.
@merefield domanda veloce sul modello linguistico che stai usando per questo. Perché non hai deciso di abilitare gpt-3.5-turbo?
Abbiamo testato noi stessi l’uso di gpt-3.5 per riassumere trascrizioni di email e telefonate e fa un ottimo lavoro. Il messaggio email / la trascrizione stessa la inseriamo nel contenuto dell’utente.
Per la trascrizione telefonica, ad esempio, aggiungiamo quanto segue nel contenuto del ‘sistema’
Identifica se questa trascrizione è una conversazione telefonica o se il chiamante sta lasciando un messaggio vocale.
Se si tratta di una conversazione telefonica, allora dovresti fornire un riassunto della conversazione telefonica e quindi creare le seguenti sezioni con elementi puntati
Accordi presi
Domande sollevate
Possibili incongruenze / preoccupazioni
Punteggio del sentiment: (per ciascun partecipante)
Revisione del Team Lead: (Si prega di segnalare se questa chiamata debba essere rivista da un team leader)
Se si tratta di un messaggio vocale, allora dovresti fornire un titolo ‘Messaggio vocale lasciato a [per]’ e su una nuova riga riassumere il messaggio vocale con una frase
Perché era ottimizzato per le chat e al momento OpenAI consigliava ancora Davinci 003 per la riassunzione. Sarò felice di rivedere questo aspetto quando il materiale GPT-4 sarà più ampiamente disponibile.
Nota che ChatGPT e Davinci-003 sono della stessa generazione, quindi non sono sicuro che ci sia molta differenza in termini di risultati tra loro?
Ecco una cosa: due volte la scorsa settimana ho letto una specie di contributo, per scoprire alla fine che proveniva da un LLM. Entrambe le volte mi sono sentito male: avevo investito nel comprendere il senso di qualcosa pensando che ci fosse qualcuno dietro le parole.
Quindi consiglierei (con forza!) che la dichiarazione venga fatta prima del testo.
Grazie per la risposta. Capisco che la funzionalità potrebbe essere nell’ambito in futuro.
Ma ho appena chiesto a ChatGPT il contenuto di un link e ha risposto (quindi funziona!) e chiunque potrebbe usare quel modo menzionando e poi modificando/eliminando i post.
