Questa guida spiega come configurare e gestire le quote di utilizzo per i Large Language Models (LLM) in Discourse AI.
Livello utente richiesto: Amministratore
Riepilogo
Le Quote di Utilizzo LLM consentono agli amministratori di controllare e monitorare il consumo di risorse AI impostando limiti sull’utilizzo dei token e sulle interazioni per diversi gruppi di utenti. Questo aiuta a mantenere l’efficienza dei costi garantendo al contempo un accesso equo alle funzionalità AI all’interno della vostra community.
Configurazione
Accesso alle impostazioni delle quote
- Accedi al pannello di amministrazione del sito
- Vai su
Admin > Plugins > Discourse AI > LLMs - Seleziona il modello LLM che desideri configurare
Impostazione delle quote
Per ogni gruppo di utenti, puoi configurare:
- Utilizzo massimo dei token
- E/O Numero massimo di interazioni AI
- E/O Costo massimo
- Durata del periodo di reset
Per ogni quota deve essere impostato almeno uno tra il massimo dei token o il massimo degli utilizzi.
Nota: Al gruppo “everyone” (tutti) non può essere assegnata una quota. Devi utilizzare gruppi specifici (ad esempio, gruppi basati sul livello di fiducia o gruppi personalizzati).
Opzioni di durata
Scegli tra i periodi di reset predefiniti:
- 1 ora
- 6 ore
- 24 ore
- 7 giorni
- Durata personalizzata (specificata in ore)
Monitoraggio dell’utilizzo
Visualizzazione delle statistiche
Gli amministratori possono monitorare il consumo di token e l’utilizzo generale all’indirizzo: https://SITENAME/admin/plugins/discourse-ai/ai-usage
- Vai su
Admin > Plugins > Discourse AI - Seleziona la scheda “Usage” (Utilizzo)
- Filtra per intervallo di date, gruppo di utenti o metriche specifiche
Esperienza utente
Notifiche sulla quota
Gli utenti ricevono feedback chiari quando si avvicinano o raggiungono i limiti della quota:
- Stato dell’utilizzo corrente
- Tempo rimanente fino al prossimo reset della quota
Messaggi di errore
Quando una quota viene superata, gli utenti vedono:
- Una notifica chiara che indica che è stato raggiunto il limite della quota
- Il tempo rimanente fino al prossimo reset della quota
Best practice
- Inizia con cautela: Inizia con quote piĂą basse e regolale in base ai pattern di utilizzo effettivi
- Assegnazione basata su gruppi: Assegna quote diverse in base alle esigenze e ai ruoli dei gruppi di utenti
- Monitoraggio regolare: Esamina i pattern di utilizzo per ottimizzare le impostazioni delle quote
- Comunicazione chiara: Informa gli utenti sui limiti delle quote e sui periodi di reset
Problemi comuni e soluzioni
Problema: Gli utenti raggiungono frequentemente i limiti
Soluzione: Considera le seguenti opzioni:
- Aumentare i limiti della quota per gruppi specifici
- Ridurre il periodo di reset
- Creare gruppi specializzati per gli utenti con alto utilizzo
Problema: Quote inutilizzate
Soluzione:
- Ridurre i limiti per ottimizzare l’allocazione delle risorse
- Rivedere le assegnazioni ai gruppi per assicurarsi che le quote corrispondano alle esigenze degli utenti
FAQ
**D: Le quote inutilizzate vengono accumulate?
R: No, le quote vengono resettate completamente alla fine di ogni periodo.
**D: Diversi modelli LLM possono avere quote diverse?
R: Sì, le quote possono essere configurate in modo indipendente per ogni LLM.
**D: Cosa succede se vengono impostate piĂą quote per un singolo LLM?
R: Le quote sono basate su gruppi e applicate per utente. Perché un utente superi la quota, deve superarla in tutti i gruppi. Questo significa che se assegni agli amministratori una quota molto flessibile e al livello di fiducia 1 una più restrittiva, agli amministratori verrà applicata la quota degli amministratori.
**D: Cosa succede se a un LLM non viene applicata alcuna quota?
R: Non succede nulla di particolare; tutto l’utilizzo LLM sarà non misurato (unmetered).
**D: Cosa faccio se voglio quote diverse per funzionalitĂ diverse?
R: Discourse AI ti consente di definire più LLM che contattano tutti lo stesso endpoint e possono persino riutilizzare le chiavi. Se desideri assegnare una quota all’AI Helper e una diversa all’AI Agent, definisci 2 LLM.
**D: Come rimuovo una quota?
R: Elimina la quota dalla pagina di configurazione del modello LLM. Non esiste un modo per “pausare” o disabilitare temporaneamente una quota: deve essere eliminata e ricreata.