Discourse AI - Pagina delle impostazioni del Large Language Model (LLM)

[Discourse]

Questa guida copre la pagina delle impostazioni LLM che fa parte del plugin Discourse AI.

Livello utente richiesto: Amministratore

La pagina delle impostazioni dedicata è progettata per avere tutto ciò che riguarda i modelli linguistici di grandi dimensioni (LLM) utilizzati per le funzionalità di Discourse AI in un unico posto.

A seconda della funzionalità di Discourse AI abilitata, potrebbe essere necessario un LLM. Si prega di controllare ciascuna funzionalità di Discourse AI per sapere se un LLM è un prerequisito.

Funzionalità

• Aggiungi nuovi modelli, con informazioni precompilate
• Aggiungi modelli personalizzati non menzionati
• Configura le impostazioni LLM
• Consenti l’uso di LLM specifici per l’AI Bot
  • Vedi il nome utente dell’AI Bot
• Abilita il supporto visivo (dipendente dal modello)
• Configura i tipi di allegati consentiti
• Imposta le quote di utilizzo per gruppo
• Traccia i costi dei token di input/output
• Prova
• Salva impostazioni

Aggiungere connessioni LLM

1. Vai su Amministrazione → Plugin → AI
2. Vai alla scheda LLM
3. Aggiungi una nuova connessione, scegli il tuo modello
4. Aggiungi la chiave API (a seconda del modello, potresti dover inserire manualmente più campi) e salva
5. (Opzionale) Prova la tua connessione per assicurarti che funzioni

LLM supportati

Puoi sempre aggiungere un’opzione personalizzata se non vedi il tuo modello elencato. I modelli supportati vengono aggiunti continuamente. I modelli preconfigurati sono modelli — puoi sempre ottenere lo stesso risultato utilizzando la “Configurazione manuale”.

Anthropic

• Claude Opus 4.6
• Claude Sonnet 4.6
• Claude Haiku 4.5

Google

• Gemini 3 Pro
• Gemini 3 Flash

OpenAI

• GPT-5.4
• GPT-5 Mini
• GPT-5 Nano

Open Router

• DeepSeek V3.2
• Moonshot Kimi K2.5
• xAI Grok 4 Fast
• MiniMax M2.5
• Z-AI GLM-5
• … e molti altri

Inoltre, i clienti ospitati possono utilizzare l’LLM piccolo ospitato da CDCK preconfigurato nella pagina delle impostazioni. Questo è un LLM a pesi aperti ospitato da Discourse, pronto per essere utilizzato per alimentare le funzionalità AI.

Campi di configurazione

Vedrai solo i campi rilevanti per il tuo provider LLM selezionato. Si prega di ricontrollare eventuali campi precompilati con il provider appropriato, come Nome modello

Campi principali:

• Nome visualizzato — il nome descrittivo mostrato nei menu a discesa
• Nome modello — l’identificatore del modello inviato all’API (es. claude-sonnet-4-6, gpt-5.2)
• Provider — il servizio che ospita il modello (es. Anthropic, OpenAI, Google, AWS Bedrock, Azure, Open Router, ecc.)
• URL — l’URL dell’endpoint API (non mostrato per AWS Bedrock)
• Chiave API — configurata tramite il sistema AI Secrets
• Tokenizer
• Token prompt max — controlla il ritaglio del prompt per evitare richieste troppo grandi
• Token output max
• Costo input / Costo output — costo per milione di token, utilizzato per il monitoraggio dell’utilizzo
• Costo input cache / Costo scrittura cache — per i provider che supportano la memorizzazione nella cache del prompt
• Visione abilitata — abilita la comprensione delle immagini (dipendente dal modello)
• Tipi di allegati consentiti — tipi di file che il modello può elaborare

Campi specifici del provider (mostrati dinamicamente in base al provider selezionato):

• AWS Bedrock: ID chiave di accesso, ARN ruolo, Regione, opzioni di ragionamento/pensiero, Memorizzazione nella cache del prompt
• Anthropic: opzioni di ragionamento, Memorizzazione nella cache del prompt
• OpenAI: ID organizzazione, Sforzo di ragionamento, Livello di servizio
• Google: Abilita pensiero, Livello di pensiero
• Open Router: Ordine provider, Quantizzazioni provider

Quote (disponibili dopo il salvataggio iniziale):

• Le quote di utilizzo per gruppo possono essere configurate con token massimi, utilizzi massimi e durata

FAQ Tecniche

Cos’è un tokenizer?

• Il tokenizer traduce le stringhe in token, che è ciò che un modello utilizza per comprendere l’input.

Quale numero devo usare per Token prompt max ?

• Una buona regola pratica è il 50% della finestra di contesto del modello, che è la somma di quanti token invii e quanti token generano. Se il prompt diventa troppo grande, la richiesta fallirà. Quel numero viene utilizzato per tagliare il prompt e prevenire che ciò accada

Avvertenze

• A volte potresti non vedere il modello che volevi usare elencato. Anche se puoi aggiungerli manualmente, supporteremo i modelli più popolari man mano che escono.

[qianping_chen (rouin)]

È troppo difficile, non so come fare. Spero di poter aggiornare tutorial specifici su varie IA, come le impostazioni di accesso di Google.