Abilitare AI Bot in Chat

Funzionalità
, , ,
5

Capisco, quindi cercando di concentrarci qui ci sono… con qualche dettaglio tecnico in più.

  1. Menzionare @gpt3.5-bot selezionerebbe la prima persona prioritaria… che di solito sarebbe l’assistente del forum, ma potresti cambiarla.
  2. Forniremmo anche il contesto (diciamo 1000 token di messaggi di chat precedenti) in modo che sia allineato. (questo è configurabile o no? configurabile per persona o no?)
  3. Dobbiamo chiaramente limitare il gruppo di persone che possono menzionare @ in chat, quindi avremmo bisogno di un’impostazione del sito per questo.
  4. Dovremmo pensare all’auditabilità, un minimo facile qui sarebbe fornire una query di esplorazione dati.
  5. Dati i recenti refactoring della chat, possiamo aprire discussioni illimitate con un bot, quindi potremmo sicuramente progettare qualcosa lì.
  6. Se consentiamo di menzionare @ in chat… perché non consentirlo anche nei post del forum allo stesso gruppo? gruppo diverso.

Dato tutto questo… il mio suggerimento V0 sarebbe:

  1. Aggiungere l’impostazione del sito ai_bot_chat_enabled_groups
  2. Codificare 1000 token di contesto per ora - scegliere la prima persona prioritaria
  3. Supporto solo per @mention per V0

V1

  1. Supporto per lo streaming e l’annullamento

V2

  1. Aggiungere il supporto opzionale per “DM di gruppo con bot AI”
  2. Assicurarsi di avere anche un’interfaccia utente piacevole per trovare tutto questo e ridurre al minimo l’overhead per farlo.

V3

  1. Opzionalmente consentire alle persone di creare anche un utente dedicato con un avatar dedicato. Quindi puoi interagire con più bot in chat. In questa modalità verrebbe selezionato anche un utente/modello per la persona.
  2. Spostare anche alcune configurazioni nell’interfaccia utente della persona… quale persona è abilitata per la chat?

V4

  1. Pensare ai limiti - utilizzo massimo di token al giorno per utente, cose del genere

V5

  1. Pensare anche ad aggiungere parte di questo negli argomenti standard - (richiede impostazione del sito, ecc…) ad esempio: @summary_bot riassumi questo argomento fino ad ora

Nel complesso mi piace molto tutto questo, dobbiamo solo capire come inserire queste cose nella nostra roadmap.

8 Mi Piace