Sono molto felice di annunciare che ora abbiamo il supporto integrato per i modelli decisionali.
I modelli decisionali sono stati promossi e sviluppati per la prima volta da TypeSafe.ai e da allora sono stati implementati da numerosi provider, tra cui CloudFlare (clef), Open AI (decisions api) e molti altri.
Permettono di classificare testi e immagini rispondendo rapidamente, accuratamente ed economicamente a domande arbitrarie sugli input.
La nuova intelligenza può essere utilizzata per una quantità molto ampia di workflow, poiché consente di classificare testi (e immagini) utilizzando un classificatore progettato da te.
Moderazione automatica - ricevi una notifica quando le discussioni si scaldano
Notifica membri specifici del team quando vengono discussi argomenti specifici
Tagging e categorizzazione automatici
E molto altro
Divertitevi e condividete i workflow interessanti che riuscirete a creare.
Trovo questa funzione ottima per gli agenti di triage delle risposte; sono già ai primi test per vedere come si comporta. Comprendo che questi nuovi modelli per il processo decisionale siano molto precisi e rapidi, e sono lieto di poterli utilizzare su Discourse.
Mi chiedo se ci siano piani in tal senso e/o se sia tecnicamente possibile integrarli anche negli agenti comuni, per sviluppare dei “Senior Helpers” che prima classificano e poi delegano. Oppure è un’idea che non ha alcun senso?
È probabile che non abbia ancora compreso appieno il loro miglior caso d’uso reale, e forse sto ponendo una domanda fuori luogo.
Penso che ci siano molti usi possibili in questo ambito. Utilizzarli come una sorta di filtro per individuare l’agente o il sotto-agente giusto a cui rivolgersi è senza dubbio un aspetto che desidero esplorare.
Ecco come me la immagino, usando la nostra configurazione come esempio. Il nostro agente principale ha cinque sottoagenti:
Sottoagente
Selezionato quando
publicator
un membro condivide un testo da migliorare prima della pubblicazione
links
collegamenti sciolti da trasformare in un post
web
elementi che cambiano al di fuori del forum
base
archivio curato: discussioni precedenti, documenti, libri
at
un grafico condiviso da un membro, verificato rispetto al nostro metodo pubblico
Attualmente l’LLM genitore legge le descrizioni dei sottoagenti e ne seleziona uno tramite spawn_agent. La gate (barriera) prenderebbe tale decisione per conto dell’LLM:
Un’impostazione gate sull’agente, che punta a un modello decisionale.
Le opzioni sono le descrizioni dei sottoagenti già esistenti, più “rispondi tu stesso”. Nulla di nuovo da scrivere per gli amministratori.
Vengono offerte solo i sottoagenti accessibili all’utente corrente.
Al di sopra di una soglia di confidenza, il sottoagente viene eseguito direttamente. Al di sotto, il risultato raggiunge l’LLM genitore come suggerimento e l’LLM decide, come fa attualmente.
Poiché i modelli decisionali classificano le immagini, “un membro ha condiviso un grafico” deriva dall’immagine stessa.
La stessa gate, posta come domanda sì/no, funzionerebbe anche come guardia prima che l’LLM venga eseguito.
Siamo una comunità educativa e non forniamo segnali, target di prezzo o consigli sugli investimenti, quindi “sta chiedendo un segnale di trading?” → risposta fissa. Oggi questa regola è una riga in ogni prompt, e i modelli ne deviano sotto pressione.
Se ci arriverete, saremmo lieti di provare una versione iniziale sul nostro forum.
