Rilasciato Chatbot 1.3 ![]()
- NOVITÀ: aggiunta opzione per gestire le quote per token
- la nuova impostazione
chatbot_quota_basisconsente di abilitarla, altrimenti rimarrà per numero di query - l’unica differenza di default è che la quota conta alla rovescia dalla quota massima iniziale (che è ancora basata sulle stesse impostazioni del livello di fiducia).
- la nuova impostazione
- NOVITÀ: inclusione del costo delle chiamate API come DALL-E nel consumo dell’utente
- solo base token
- varie nuove impostazioni da regolare per influenzare il costo in token delle funzionalità API
- NOVITÀ: aggiunta funzione per consentire all’utente di controllare la propria quota rimanente
Chatbot ha sempre incluso la capacità di applicare una quota di utilizzo.
Oggi questo diventa più sofisticato!
Chatbot ora può tracciare e applicare una quota sull’utilizzo per token.
Puoi mettere a costo le chiamate alle API per scoraggiarne l’uso eccessivo, così potrai preoccuparti meno di dare alle persone l’accesso alla generazione di immagini, ad esempio.
Il tracciamento dei token è opzionale. Se passi al tracciamento dei token, assicurati di aumentare la quota di ogni livello di fiducia, poiché i valori dovranno essere di alcuni ordini di grandezza superiori. Sperimenta.
Tuttavia, il tracciamento per query è leggermente cambiato. Ora si reimposterà al numero massimo di query consentito e conterà alla rovescia fino a zero.
Potresti considerare di eseguire il processo di reimpostazione della quota globale una volta come operazione una tantum per assicurarti che tutti inizino con una quota completa. Questa è un’operazione una tantum!
In sidekiq su /sidekiq/scheduler:
Premi il pulsante trigger.
In entrambi i casi gli utenti possono ora chiedere quanta quota hanno ancora a disposizione:
NB: problema noto: se questa domanda viene posta per la prima volta prima che sia stato eseguito il processo di reimpostazione, la risposta potrebbe essere un po’ strana! Indipendentemente dall’esecuzione del processo di reimpostazione, la seconda volta che viene posta questa domanda dovrebbe funzionare correttamente.

