Richiesta di configurazione: Riassunto AI in Discourse e integrazione LLM

[S.AAKASH_MUTHIAH]

Ciao Team di Supporto di Discourse,

Ho alcune domande sull’uso della riepilogazione AI in Discourse e apprezzerei il tuo aiuto nel guidarmi attraverso il processo di configurazione:

1. Come inizializzare la riepilogazione AI:

   • Quali passaggi devo seguire per attivare e configurare la riepilogazione AI in Discourse?
   • Sono necessari plugin per iniziare con la riepilogazione AI? Se sì, quali e dove posso trovarli?

2. Utilizzo del nostro LLM (da Dify):

   • È possibile integrare il nostro LLM personalizzato, creato tramite l’applicazione Dify, per le attività di riepilogazione in Discourse? Se sì, come possiamo farlo utilizzando un’API?
   • Puoi fornire documentazione API o guide all’integrazione per collegare LLM di terze parti a Discourse?

3. Costo dei modelli AI in Discourse:

   • Modelli LLM disponibili: Quali sono i diversi modelli di riepilogazione AI disponibili in Discourse e come posso scegliere tra di essi?
   • Modelli gratuiti vs a pagamento: Alcuni modelli LLM sono gratuiti, o c’è un costo associato a tutti?
   • Restrizioni d’uso: Ci sono limitazioni d’uso per i modelli gratuiti, come limiti di richieste giornaliere o restrizioni sui token?
   • Metriche di costo: Qual è la struttura dei prezzi per ciascun modello, inclusi eventuali costi per richiesta o per token? Se ci sono più livelli di prezzo, puoi fornire una ripartizione per ciascun modello?

4. Informazioni aggiuntive:

   • Per favore, fammi sapere se ci sono considerazioni o passaggi aggiuntivi che devo intraprendere per utilizzare appieno le funzionalità di riepilogazione AI in Discourse.

Grazie in anticipo per il tuo aiuto!

[NateDhaliwal]

Ciao @S.AAKASH_MUTHIAH , la maggior parte delle tue domande può trovare risposta nella documentazione del plugin AI qui.

---

@S.AAKASH_MUTHIAH

Quali passaggi devo seguire per attivare e configurare la sintesi AI in Discourse?

Vedi:

Discourse AI - Summarize

This topic covers the configuration of the Summarize feature of the Discourse AI plugin. Required user level: Administrator Summarize topics and chat channels for a quick recap. Use it in mega topics and large discussions to figure out what’s happening. [Chat channel summarize option] Features Summarize topics from topic map (top and bottom of topic) Summarize Chat channels for specific duration of time (up to 7 days) Cached summaries in prior gen…

E:

Summarize - Gists

This guide explains how to enable and configure Gists, which is part of the Summarize feature of the Discourse AI plugin. Required user level: Administrator This feature isn’t yet available on discourse.org hosting Gists are short AI summaries to help you get a quick overview from topic lists. Features Auto backfills short summaries of topics Toggleable between compact and expanded (with AI summary) topic views Available for all topic views, …

---

@S.AAKASH_MUTHIAH

Sono necessari plugin per iniziare con la sintesi AI? Se sì, quali e dove posso trovarli?

Sì, il plugin ai. È incluso nel core se sei aggiornato, vai semplicemente su /admin/plugins per abilitarlo e configurarlo.

---

@S.AAKASH_MUTHIAH

Modelli LLM Disponibili: Quali sono i diversi modelli di sintesi AI disponibili in Discourse e come scelgo tra di essi?

What LLM to use for Discourse AI?

It’s important to understand the needs of you as the community admin and your members when choosing a Large Language Model (LLM) to power Discourse AI features. Several factors may influence your decisions: Performance for use-case: Are you looking for the best-performing model? Performance can vary depending on the task (e.g., summarization, search, complex reasoning, spam detection). Assessment is based on the model’s ability to generate correct, relevant, and coherent responses. Context …

---

@S.AAKASH_MUTHIAH

Modelli Gratuiti vs a Pagamento: Alcuni dei modelli LLM sono gratuiti o c’è un costo associato a tutti?

La maggior parte sono a pagamento, ma puoi dare un’occhiata a OpenRouter, che offre anche alcuni modelli gratuiti.

---

@S.AAKASH_MUTHIAH

Restrizioni d’Uso: Ci sono limitazioni d’uso per i modelli gratuiti, come limiti di richieste giornaliere o restrizioni sui token?

Per quanto ne so, dipenderà dal tuo provider, ma se non erro puoi anche imporre limiti in Discourse.

Forse vedi:

Estimating costs of using LLMs for Discourse AI

In order to use certain Discourse AI features, users are required to use a Large Language Model (LLM) provider. Please see each AI feature to determine which LLMs are compatible. If cost is a significant worry, one way to combat that is to set usage limits right from the vendor and use a monthly budget. Another option is to only let select users and groups access the AI features There are several variable factors to consider when calculating the costs of using…

---

@S.AAKASH_MUTHIAH

Metriche di Costo: Qual è la struttura dei prezzi per ciascun modello, inclusi eventuali costi per richiesta o per token? Se ci sono più livelli di prezzo, puoi fornire una ripartizione per ciascun modello?

Dipenderà dal tuo provider AI LLM; sono diversi.

---

Vedi tutta la documentazione per il plugin AI qui.

Per le impostazioni offerte nel plugin, vedi questa guida.

---

Spero che questo aiuti!

[S.AAKASH_MUTHIAH]

Ciao,
Grazie mille per la tua risposta rapida e utile!

Ho controllato le opzioni del plugin sulla mia istanza di Discourse, ma non vedo nulla relativo all’IA elencato lì. Ho allegato un’immagine che mostra le opzioni di plugin disponibili da parte mia: potresti per favore dare un’occhiata e farmi sapere se mi manca qualcosa?

[NateDhaliwal]

Sei sull’ultima versione che ha superato i test?

[S.AAKASH_MUTHIAH]

la mia versione attuale

[NateDhaliwal]

Prova ad aggiornare il tuo forum e vedi se funziona.

[S.AAKASH_MUTHIAH]

Grazie, ora ha funzionato.

Ho una domanda. Ho creato un flusso di lavoro su DIFY e ora voglio usare l’API di quel flusso di lavoro per integrare il mio LLM. Potresti anche farmi sapere in quale formato devono essere inviati gli input?
E dove aggiungere l’API.
E quale opzione deve essere cliccata per configurare la nostra?

[S.AAKASH_MUTHIAH]

Ho trovato una cosa, è in questa pagina che devo configurare le impostazioni?

Se sì, quale opzione dovrei selezionare da questo menu a discesa

[NateDhaliwal]

Se scegli ‘Configurazione manuale’ nella pagina LLM e inserisci le tue chiavi lì, funziona?

Non uso il plugin AI da un po’, quindi la mia memoria è un po’ confusa.

[S.AAKASH_MUTHIAH]

Vorrei capire il tipo di input che verrà inviato all’endpoint API da Discourse.

[tobiaseigen]

@S.AAKASH_MUTHIAH come procede con l’impostazione dell’IA sul tuo sito? Sto per programmare la chiusura di questo argomento: puoi sempre avviare nuovi argomenti quando hai nuove domande.

Come ha sottolineato @NateDhaliwal, molte delle tue domande hanno già risposta nella documentazione. Fai riferimento a quella prima di porre domande.