Discourse AI - utilizzo dell'intelligenza artificiale

[Saif (Saif Murtaza)]

Questa guida copre la pagina di utilizzo dell’IA, che fa parte del plugin Discourse AI.

Livello utente richiesto: Amministratore

La pagina di utilizzo dell’IA è progettata per gli amministratori per comprendere come la community utilizza le funzionalità di Discourse AI nel tempo. Questo può essere utile in Stima dei costi di utilizzo degli LLM per Discourse AI.

Funzionalità

• Orizzonte temporale: 24 ore, ultima settimana e date personalizzate
• Selezionabile per funzionalità di Discourse AI
• Selezionabile per LLM abilitati
• Riepilogo di anteprima
  • Richieste totali: Tutte le richieste effettuate agli LLM tramite Discourse
  • Token totali: Tutti i token utilizzati durante l’invio di prompt a un LLM
  • Token di richiesta: Token utilizzati quando l’LLM cerca di capire cosa stai dicendo
  • Token di risposta: Token utilizzati quando l’LLM risponde al tuo prompt
  • Token memorizzati nella cache: Token di richiesta precedentemente elaborati che l’LLM utilizza per ottimizzare prestazioni e costi
• Grafico a barre interattivo che mostra l’utilizzo dei token
• Conteggio di token e utilizzo per funzionalità di Discourse AI
• Conteggio di token e utilizzo per LLM

Abilitazione dell’utilizzo dell’IA

Prerequisiti

Affinché i dati vengano popolati, è necessario configurare almeno un modello linguistico di grandi dimensioni (LLM) da un provider e avere membri che utilizzano le funzionalità di Discourse AI.

Per iniziare, puoi configurare gli LLM tramite la pagina Impostazioni LLM di Discourse AI.

• OpenAI
• Anthropic
• Azure OpenAI
• AWS Bedrock con accesso Anthropic
• HuggingFace Endpoints con modello simile a Llama2
• Self-Hosting di un LLM OpenSource
• Google Gemini
• Cohere

Configurazione

1. Vai alle impostazioni di Admin → Plugins → AI → scheda Settings e assicurati che sia abilitato (discourse ai enabled)
2. All’interno del plugin AI, naviga alla scheda Usage

FAQ Tecniche

Cosa sono i token e come funzionano?

• I token sono le unità di base che gli LLM utilizzano per comprendere e generare testo; i dati di utilizzo possono influire sui costi. Dai un’occhiata a Stima dei costi di utilizzo degli LLM per Discourse AI per saperne di più.