Ci piacerebbe avere un bot AI nella funzione di chat. I nostri utenti utilizzano pesantemente la chat.
Puoi spiegare meglio come vorresti che funzionasse?
2 Mi Piace
I miei utenti lo userebbero così:
- il mio veterinario ha detto che i cani possono ottenere la vitamina D dal sole
- non credo… tutti dicono che dobbiamo usare i nutraceutici
- davvero? Ciao
@helpful-boti cani possono ottenere la vitamina D dal sole?
Qualcosa del genere. Significa che non ho bisogno di persone diverse. Ma per me questo non è un problema insormontabile. Ho un altro chatbot in uso sui canali 
4 Mi Piace
Mi scuso per l’ambiguità. Intendevo dire che vogliamo che i nostri utenti siano in grado di richiamare il bot nel canale di chat generale utilizzando @nomedelbot. Inoltre, gli utenti all’interno del gruppo idoneo dovrebbero avere la possibilità di inviare messaggi diretti al bot. come negli screenshot qui sotto;
3 Mi Piace
Capisco, quindi cercando di concentrarci qui ci sono… con qualche dettaglio tecnico in più.
- Menzionare
@gpt3.5-botselezionerebbe la prima persona prioritaria… che di solito sarebbe l’assistente del forum, ma potresti cambiarla. - Forniremmo anche il contesto (diciamo 1000 token di messaggi di chat precedenti) in modo che sia allineato. (questo è configurabile o no? configurabile per persona o no?)
- Dobbiamo chiaramente limitare il gruppo di persone che possono menzionare
@in chat, quindi avremmo bisogno di un’impostazione del sito per questo. - Dovremmo pensare all’auditabilità, un minimo facile qui sarebbe fornire una query di esplorazione dati.
- Dati i recenti refactoring della chat, possiamo aprire discussioni illimitate con un bot, quindi potremmo sicuramente progettare qualcosa lì.
- Se consentiamo di menzionare
@in chat… perché non consentirlo anche nei post del forum allo stesso gruppo? gruppo diverso.
Dato tutto questo… il mio suggerimento V0 sarebbe:
- Aggiungere l’impostazione del sito
ai_bot_chat_enabled_groups - Codificare 1000 token di contesto per ora - scegliere la prima persona prioritaria
- Supporto solo per
@mentionper V0
V1
- Supporto per lo streaming e l’annullamento
V2
- Aggiungere il supporto opzionale per “DM di gruppo con bot AI”
- Assicurarsi di avere anche un’interfaccia utente piacevole per trovare tutto questo e ridurre al minimo l’overhead per farlo.
V3
- Opzionalmente consentire alle persone di creare anche un utente dedicato con un avatar dedicato. Quindi puoi interagire con più bot in chat. In questa modalità verrebbe selezionato anche un utente/modello per la persona.
- Spostare anche alcune configurazioni nell’interfaccia utente della persona… quale persona è abilitata per la chat?
V4
- Pensare ai limiti - utilizzo massimo di token al giorno per utente, cose del genere
V5
- Pensare anche ad aggiungere parte di questo negli argomenti standard - (richiede impostazione del sito, ecc…) ad esempio:
@summary_bot riassumi questo argomento fino ad ora
Nel complesso mi piace molto tutto questo, dobbiamo solo capire come inserire queste cose nella nostra roadmap.
8 Mi Piace
Nel frattempo, se sei self-hosted, puoi sempre considerare Discourse Chatbot, che ha supportato Chat fin dall’inizio (ed è stato infatti il primo Chatbot AI per Discourse).
4 Mi Piace
Questo sembra un piano molto solido.
Forse iniziamo con un’impostazione per una persona di chat predefinita, e alla fine migriamo per canale?
100%
Penso che la chat sia un buon punto di partenza, per poi eventualmente portare lo stesso comportamento ai topic.
2 Mi Piace
Sono abbastanza d’accordo con i tuoi e i pensieri di @Falco qui, l’unica cosa da aggiungere sarebbe assicurarsi che funzioni anche con le Chat Threads, se non V0 allora V1/V2
(Opzionale) Un’ulteriore cosa che potrebbe valere la pena aggiungere in futuro è un’opzione qui per avviare una chat con il bot, il mio pensiero è che per alcuni utenti potrebbero non sapere nemmeno di poterlo fare!
4 Mi Piace
Sembra ok per una V0. Penso che avere un’interfaccia utente migliore per creare bot e poter definire gruppi consentiti da questa interfaccia utente sarebbe molto meglio di un’impostazione del sito a medio/lungo termine.
1 Mi Piace
L’editor di persona è il modo in cui ci arriveremo, di sicuro.
Abbiamo già tutte le basi per collegare un nuovo utente a una persona.
2 Mi Piace
Il bot AI in chat sarà molto migliore dell’attuale messaggistica privata con l’AI…
spero possiate aggiungere presto questo miglioramento…
a proposito, sembra che l’uso dell’API Gemini non sarà presto gratuito… hmm…
1 Mi Piace
Ci ho sperimentato, presenta parecchie limitazioni dato che tenere traccia della cronologia è difficile, il markdown non è completo e altro… Non è un successo garantito. Tuttavia è facile iniziare conversazioni ma non è un sostituto completo.
Puoi spiegare esattamente perché pensi che sia molto meglio?
Gemini 1.0 pro non è granché, lo eviterei comunque, se stai cercando un LLM economico allora Claude 3 Haiku è la strada da percorrere.
4 Mi Piace
Questo argomento è stato chiuso automaticamente dopo 2 giorni. Non sono più consentite nuove risposte.