Ho dato un’occhiata a questo brevemente a causa del mio coinvolgimento/interesse storico con nello spazio Discourse.
L’autorizzazione delle chiamate API a ChatGPT basato sul web è attualmente piuttosto complicata (e fastidiosa, costringendoti a mimare un browser web, ad esempio) e alcune soluzioni intermedie di wrapper API open source sono fallite da allora poiché hanno inasprito questo aspetto.
Sospetto che, per il momento, stiano attivamente cercando di rendere difficile il reverse engineering delle chiamate API del sito ufficiale[1] e potrebbe valere la pena aspettare l’API ufficiale per un ChatGPT completamente conversazionale che sicuramente arriverà per evitare questa complessità e qualsiasi abuso dei termini di servizio che potresti rischiare? Guardando Discourse di OpenAI ( ), questo sembra essere il pensiero di altri.
Notando che esiste già un’API OpenAI ufficiale ma questa non supporta conversazioni continue in modo così conveniente (sembra che tu debba inviare tutta la cronologia ogni volta in una variabile context! Questo è troppo dispendioso (e alla fine costoso) per me per preoccuparmene nel frattempo! ).
@philip_rhoades o chiunque altro qui — hai finito per implementare un bot Discourse con GPT-3?
Immagino bot per avviare l’attività della community, che possono essere configurati per rispondere in stili diversi ai commenti fatti dai visitatori o tra di loro. Avresti come input l’argomento principale del forum, l’argomento del thread e il primo post al suo interno. Il bot utilizzerebbe l’API per generare del testo e assicurarsi che sia sufficientemente diverso dagli altri bot. Ognuno discuterebbe un aspetto diverso del post originale. Quindi, lascerebbe spazio alla discussione umana. Se nessuno risponde su un thread per una settimana, un bot potrebbe far rivivere quel thread rispondendo di nuovo, questa volta a uno dei post precedenti.
I bot non saranno in grado di collegarsi ad articoli esterni, ma questo sta arrivando, può essere un processo diverso per farlo.
Per essere etico, ogni bot avrebbe bisogno di un profilo che dichiari che si tratta di un bot alimentato da GPT-3.
Qualcuno è interessato a scrivere un plugin Discourse per farlo? Pagherei per questo dalla nostra azienda. Quando si tratta di AI, questa è un’area in cui preferiamo NON rendere open source le cose per paura di abusi (anche se è abbastanza banale per qualcun altro farlo e renderlo open source).
Ci sono plugin Discourse che facilitano la creazione di account sintetici che utilizzano cron per postare? Come funzionano?
Sarei decisamente interessato, ma suggerirei una pausa se desideri un bot conversazionale finché non forniranno l’API conversazionale ufficiale completa (qualsiasi hack probabilmente violerà i termini e le condizioni).
Se non ti dispiace una semplice soluzione di chiamata e risposta singola, il lavoro potrebbe sicuramente iniziare presto. Sentiti libero di inviarmi un messaggio privato.
Va bene, in realtà non voglio nemmeno ChatGPT. Solo GPT-3. C’è qualcosa contro i termini di servizio riguardo a quello che ho suggerito… non sarebbe interattivo ma solo un post ogni pochi giorni da ciascun bot. Non è “astroturfing” poiché i bot sono solo nel nostro forum e sono chiaramente etichettati nei loro profili:
Per essere chiari, puoi renderlo un po’ interattivo, ma al momento è piuttosto ingombrante.
L’attuale API di intelligenza artificiale aperta per GPT3 andrebbe probabilmente bene per quel caso d’uso, in ogni caso.
Non sono sicuro di come potremmo chiedere al bot di chiedere (forse un lavoro di qualche tipo), ma discutiamone, decisamente interessato, sentiti libero di inviarmi un messaggio diretto qui.
Aspetta, come spesso accade quando inizio a scrivere, mi rendo conto di qualcosa! Dato che non vogliamo che altri proprietari di forum copino o rivendano il codice in questo caso, possiamo semplicemente sviluppare un servizio a codice chiuso che crea account su discourse e ne compila i profili, e poi pubblica periodicamente come tali account! Discourse ha una sorta di whitelist per gli account per evitare che vengano shadow ban in base al fatto che provengono tutti dallo stesso indirizzo IP o qualcosa del genere?
Sono anch’io interessato a un’integrazione GPT utilizzando l’API AI.
È un’idea quella di unire le forze e vedere se riusciamo a creare qualcosa di simile per la community Meta? Sono disposto a partecipare finanziariamente.
Questa non è una raccomandazione; sto solo segnalando un sito correlato ai transformer, la T di GPT (Generative Pre-trained Transformer), che vale la pena dare un’occhiata.
Sebbene io capisca i concetti di reti neurali, transformer e GPT, personalmente non ho le risorse per addestrarli ulteriormente a causa dell’alto costo, ma mi tengo aggiornato su di essi. Sono anche consapevole di quelli che considero alcuni dei loro talloni d’Achille [1]. Non fraintendere, non è che non mi piacciano, semplicemente sento che così come sono non sono ancora pronti per l’uso principale di cui ho bisogno.
[1] Le domande del Dr. Vaughan Pratt del 1994 per valutare Cyc, poste a ChatGPT (ref )
Impara a creare un’IA in grado di rispondere a domande sul tuo sito web
Questo tutorial illustra un semplice esempio di scansione di un sito web (in questo esempio, il sito web di OpenAI), trasformazione delle pagine scansionate in embeddings utilizzando l’API Embeddings e quindi creazione di una funzionalità di ricerca di base che consente a un utente di porre domande sulle informazioni incorporate. Questo è inteso come punto di partenza per applicazioni più sofisticate che utilizzano basi di conoscenza personalizzate.
OpenAI ha un forum Discourse!!! che non è così facile da trovare.
Rendono facile trovare il sito Discord ma io li evito come la peste.
Ecco una grande implementazione di un bot GPT in grado di utilizzare l’intero contesto del sito Web costruito su Supabase (open source):
Sospetto che Discourse e Supabase sarebbero un ottimo allineamento qui. Un plugin che esegue embedding del forum utilizzando l’approccio del video sopra, e quindi crea un utente basato su di esso sarebbe fantastico.
Sarei certamente interessato. Ma sfortunatamente, penso che se non è nello spazio open source sprecheremo il nostro tempo e i nostri sforzi, poiché il plugin più mantenuto finirà per essere quello open source. E se crei e utilizzi una versione a codice chiuso, rimarrai bloccato con un onere di manutenzione.
Se siete entrambi disposti a unirvi finanziariamente, sono nella posizione di renderlo una realtà. E abbastanza presto, se desiderato. Ma dovrebbe essere sotto licenza Apache-2.0.
Sospetto anche che ciò aiuterebbe seriamente l’azienda Discourse se un plugin come questo potesse essere un plugin ufficiale. È qualcosa che interesserebbe all’azienda Discourse?
Potrei essere in grado di ottenere una sovvenzione di finanziamento corrispondente dal governo dove vivo per supportare la creazione di questo. Se siete interessati a unirvi finanziariamente, fatemelo sapere. Sarò felice di gestire l’infrastruttura di hosting, e chiunque contribuisca finanziariamente all’inizio alla creazione del plugin potrà avere uno sconto significativo sulla soluzione ospitata senza interruzioni che indicizza il tuo forum e crea bot GPT intelligenti per il tuo discourse.
Ehi, ci sono buone notizie riguardo al nostro team qui a Discourse.
Per il prossimo ciclo di rilascio, noi di Discourse abbiamo eletto l’IA come una delle nostre priorità per nuove funzionalità e plugin. Ciò significa che ora abbiamo un team dedicato che lavora su funzionalità come l’integrazione LLM, e le presenteremo presto qui su Meta.
Sembra una decisione intelligente. Ho imparato rapidamente, utilizzando ChatGPT e ricevendo feedback da utenti privi di conoscenze tecniche, che non hanno familiarità con il concetto di prompt engineering. Pertanto, vorrei condividere questa risorsa:
Se state cercando persone per testare e fornire feedback sulle prime versioni, includetemi e sarò felice di assistere se sarò disponibile.
nello spazio Discourse.
), questo sembra essere il pensiero di altri.
).
Grazie per l’avviso, non voglio davvero reinventare la ruota quando costruirai qualcosa di straordinario