Sebbene collegare il bot AI alle API esterne sia stato fantastico, penso che sarebbe molto utile per gli amministratori/sviluppatori poter creare catene di prompt utilizzando LCEL nell’editor di strumenti personalizzati per consentire flussi di lavoro più complessi e risposte intelligenti potenziate. Oppure, l’editor di strumenti personalizzati potrebbe avere una funzionalità di “costruttore di catene” che essenzialmente racchiude LangChain in un’interfaccia grafica per l’amministratore .
In alternativa, sarebbe molto utile consentire un tempo di esecuzione superiore a due secondi in modo che una catena di prompt possa essere ospitata su server diversi ed esposta al server Discourse. 2 secondi sono sufficienti per inviare alcuni dati alla catena, lasciarla “pensare” attraverso la sua catena, quindi ottenere una risposta . Ma questo è più complesso e di nicchia, e meno adatto ai non ingegneri. La prima proposta ha più senso.
Naturalmente, entrambe queste opzioni introducono potenziali rischi, quindi idealmente ci sarebbe un interruttore per abilitare con un avviso/notifica allegato .
Ma perché farlo? Beh, sono contento che tu l’abbia chiesto :D.
Il comportamento/l’agenzia complessa dell’IA non è realmente realizzabile con un singolo prompt di sistema, ed è proprio per questo che LangChain è stato sviluppato. Sono un ricercatore di IA e stiamo costruendo un’architettura cognitiva basata su LLM (per ora semplice) che alla fine interagirà con gli utenti . Discourse sarebbe il mezzo più ideale per scatenare questa bestia, soprattutto perché può essere abbinato al plugin di automazione — le possibilità qui sono veramente infinite e lo adoro .
Sono fiducioso che anche molte altre aziende trarrebbero beneficio dalla possibilità di applicare agenti ai loro forum. Gli LLM sono piuttosto impressionanti, tuttavia riconosciamo che elementi di IA simbolica (basata su logica/regole) sono ancora applicabili all’interno di sistemi di IA più grandi — come le architetture cognitive che sono costruite per ottimizzare verso un particolare stato obiettivo.
Mi piacerebbe sentire qualsiasi feedback, brainstorming e critica di questa idea!
Leggo e capisco le parole, e basta così, perché sono un utente finale privo di conoscenze e comprensione di base. E non sono del tutto sicuro se stai cercando di vendere un concetto B2B o qualcosa di utile agli utenti in un ambiente forum. O entrambi, anche questa è una situazione possibile.
Certo, è bello avere una grande varietà di strumenti e non c’è motivo per cui tutti debbano usare ogni strumento. È bello avere una scorta abbastanza grande tra cui scegliere.
Puoi fornire esempi pratici di cosa tutto ciò può dare all’attività dietro un forum e a un utente?
Si potrebbero ideare infiniti casi d’uso collegando LLM tra loro per raggiungere un obiettivo, ma ecco un esempio semplice e concreto…
Supponiamo che ci sia un forum per ricercatori che hanno bisogno di trovare rapidamente e facilmente nuovi articoli di ricerca. Si potrebbe semplicemente utilizzare la libreria http già disponibile nel costruttore di strumenti personalizzati del plugin AI, quindi creare uno strumento che invii una richiesta a un database di articoli (ad esempio arXiv o riviste accademiche peer-reviewed). Ma questo è essenzialmente solo un tentativo “one-shot”.
Un approccio migliore sarebbe quello di concatenare più chiamate LLM per adottare un approccio passo dopo passo al problema:
Chatta con l’utente riguardo al suo argomento di ricerca (ripeti questo un paio di volte per ottenere molti dettagli)
Riassumi le esigenze dell’utente secondo un modello predefinito
Trasforma quel riassunto in una richiesta API e ricevi un elenco di potenziali corrispondenze dal database degli articoli
Analizza l’abstract di ogni articolo per assicurarti che sia effettivamente pertinente
Presenta quell’elenco all’utente e spiega perché ogni articolo è pertinente al suo argomento di ricerca.
Questo non è ciò su cui sto lavorando (non voglio necessariamente divulgare il mio modello di business e la mia architettura ), ma è un esempio semplice e realistico che viene effettivamente affrontato da alcuni sviluppatori.
Essenzialmente, ciò che sto cercando di vendere agli utenti (tramite il delizioso plugin di abbonamento) è l’accesso a un bot AI che è più complesso di un semplice prompt di sistema con uno strumento semplice collegato a qualche servizio che restituisce dati (prezzi delle azioni, ecc.). Più complesso nel senso che risolve un problema / risponde a una query dell’utente in più passaggi, ognuno dei quali utilizza un LLM con un prompt di sistema diverso. Questo è essenzialmente ciò che fa il nuovo modello o1 di OpenAI.
Se intendi guadagnare da questo, forse è ragionevole che tu contribuisca con la funzionalità? Ci hai pensato?
Credo che stiano aggiungendo il supporto per o1, quindi perché non attenersi a quello?
Chatbot potrebbe già funzionare con o1, cosa che confermerò quando potrò effettivamente testarlo senza spendere ancora più soldi sul mio account per raggiungere il Livello 5!
Ci ho sicuramente pensato, ma come ricercatore di IA la mia esperienza/conoscenza di programmazione è concentrata su Python e librerie come NumPy, PyTorch, ecc. . Non so nulla di Ruby e molto poco di JavaScript. Anche se mi sono innamorato di Discourse, ho deciso di iniziare lentamente ad imparare anche questi, oltre allo sviluppo di plugin per Discourse. Quindi, se hai qualche raccomandazione per risorse di apprendimento, ti sarei grato!
o1 è bello e utile, e prevedo di usarlo spesso per la programmazione, tuttavia quello su cui sto lavorando è un’architettura cognitiva, quindi è una situazione un po’ diversa. Sono piuttosto nella mentalità di “Voglio costruire qualcosa basato sulla ricerca nelle scienze cognitive computazionali, e sarebbe bello se potesse vendere” e non proprio “Ho un’idea e posso delegarla a OpenAI e intascare soldi”. Spero che abbia senso .
Oh sì, e la nostra architettura cognitiva sarebbe circa 20 volte più economica di o1
Impara facendo, prima copiando i plugin esistenti e scegliendo prima le funzionalità più facili da ottenere per renderlo un processo iterativo più semplice. Crea qualcosa di cui hai veramente bisogno, perché avrai bisogno dell’incentivo per superare le barriere che incontrerai.
nell’editor di strumenti personalizzati per consentire flussi di lavoro più complessi e risposte intelligenti potenziate. Oppure, l’editor di strumenti personalizzati potrebbe avere una funzionalità di “costruttore di catene” che essenzialmente racchiude LangChain in un’interfaccia grafica per l’amministratore 
.
. Ma questo è più complesso e di nicchia, e meno adatto ai non ingegneri. La prima proposta ha più senso.
.
e stiamo costruendo un’architettura cognitiva basata su LLM (per ora semplice) che alla fine interagirà con gli utenti 
. Discourse sarebbe il mezzo più ideale per scatenare questa bestia, soprattutto perché può essere abbinato al plugin di automazione — le possibilità qui sono veramente infinite e lo adoro 
.
Mi piacerebbe sentire qualsiasi feedback, brainstorming e critica di questa idea! 
Grazie per la tua risposta
Quindi, se hai qualche raccomandazione per risorse di apprendimento, ti sarei grato!
.