Ciao a tutti!
Vorrei suggerire alcune funzionalità utili per il plugin Discourse AI:
-
Tracciamento dell’utilizzo dei token per utente
Ciò consentirebbe agli amministratori di monitorare quanti token ogni utente consuma quando interagisce con l’IA. Potrebbe aiutare a prevenire abusi e consentire l’impostazione di limiti di token per utente o per gruppo. Vedere un’analisi dettagliata dell’utilizzo dei token per utente darebbe una migliore comprensione dei modelli di utilizzo e dei costi.
La lingua russa viene utilizzata da noi nella nostra community per chattare con l’IA, ma il tokenizer di OpenAI non funziona bene con la lingua russa. Un token può essere un simbolo, ed è dannatamente costoso per noi! -
Consentire agli utenti di creare persona AI personalizzate
Permettere agli utenti di definire la propria persona di assistente AI (creando prompt personalizzati) per interazioni più coinvolgenti e personalizzate. Dare agli utenti questa flessibilità ispirerebbe usi più creativi dell’IA sul forum. -
Impostazione di un numero massimo predefinito di post da includere come contesto
Aggiungere un’opzione predefinita per tutte le persona per limitare il contesto a un certo numero di post recenti potrebbe aiutare a mantenere sotto controllo l’utilizzo dei token, pur fornendo all’IA un contesto sufficiente per rispondere in modo appropriato. -
Possibilità di utilizzare testo da origini dati personalizzate
L’integrazione di caricatori di documenti per origini come PDF, pagine web, file di Google Drive, ecc. renderebbe più facile per gli utenti interagire con le informazioni e non sembra molto difficile da implementare. Immagina di poter far riferimento all’IA a informazioni da un whitepaper caricato come PDF, o fatti da pagine web specifiche, quando si partecipa a un argomento. Questo è particolarmente utile per le comunità accademiche come la mia, che spesso trattano articoli in diversi formati. Questo potrebbe potenziare le capacità dell’IA nelle discussioni specialistiche. Strumenti di caricamento documenti come LangChain potrebbero potenzialmente essere sfruttati per questo: Document Loaders —
LangChain 0.0.146 -
Supporto per URL di base API personalizzati per tutti i modelli AI
Attualmente, gli URL API personalizzati sono supportati solo per OpenAI. Estendere questa funzionalità a tutti i provider AI supportati sarebbe molto utile per coloro che necessitano di utilizzare un proxy inverso o altri endpoint API non standard. Molti di noi si affidano a proxy inversi per motivi di sicurezza, conformità o gestione dei costi, quindi avere la flessibilità di instradare le richieste AI attraverso la nostra infrastruttura renderebbe molto più facile integrare questo plugin nei nostri ambienti. -
Genera titoli di chat localizzati in base alla lingua dell’utente
Al momento, l’IA genera titoli di chat solo in inglese. Avere la possibilità di creare titoli nella lingua preferita dall’utente offrirebbe una migliore esperienza utente, specialmente per le community non anglofone.
Fatemi sapere cosa ne pensate!
