Discourse AI

[bugtracker]

Grazie mille

[bugtracker]

Possiamo usare Deepseek?

[sam (Sam Saffron)]

Certo, ha un’API compatibile con Open AI

[Bathinda (Bathinda Helper)]

@Jagster

consenti menzioni argomento

Per favore, non sono riuscito a trovare questa impostazione (nemmeno quella che hai mostrato nel TUO screenshot) da nessuna parte in Admin > Impostazioni AI.

[Saif (Saif Murtaza)]

@Bathinda

Per favore, non sono riuscito a trovare questa impostazione (né quella che hai mostrato nella TUA schermata) da nessuna parte in Admin > Impostazioni AI.

Questa è disponibile all’interno di Personas, seleziona una persona specifica modificabile (non di sistema) e guarda sotto il prompt.

[Heliosurge (Dan DeMontmorency)]

Benvenuto in Discourse Meta!

Vorrai pubblicare questo in Support

[vykozlov (Valentin)]

Ciao a tutti, stiamo auto-ospitando vLLM e generiamo token API con Fernet, che hanno il segno “=”. Mi sembra, controllando in /var/discourse/shared/standalone/log/var-log/nginx/error.log, che il segno “=” venga sostituito con “%3D” e quindi la mia richiesta non sia autorizzata.
Potrebbe essere questo il caso? Si potrebbe risolvere?

[vykozlov (Valentin)]

Grazie per il contributo.
Il mio caso è piuttosto semplice. Abbiamo già servizi vLLM e openWebUI che espongono LLM al mondo. Entrambi funzionano bene. Posso anche verificare con semplici chiamate cURL che posso effettivamente accedere a entrambi dall’interno del container Discourse:
vLLM:

   curl -v ${LLM_URL} -H "Content-Type: application/json" -H "Authorization: Bearer ${LLM_TOKEN}" \
        -d '{
           "model": "'"${LLM_MODEL}"'",
           "prompt": "'"${TEST_PROMPT}"'",
           "max_tokens": 128,
           "temperature": 0
        }'

openWebUI:

   curl -v ${LLM_URL} -H "Content-Type: application/json" -H "Authorization: Bearer ${LLM_TOKEN}" \
        -d '{
           "model": "'"${LLM_MODEL}"'",
           "messages": [
              { "role": "user",
                "content": "'"${TEST_PROMPT}"'"
              }
           ]
        }'

Ora ho installato il plugin discourse-ai su un Discourse auto-ospitato e ho provato a configurare l’accesso tramite “LLMs”-“>“Configurazione manuale”-”>Provider=vLLM. In entrambi i casi devo fornire la API KEY. Sfortunatamente… nessuna funziona:

vLLM con token Fernet restituisce “error”:“Unauthorized”}
openWebUI restituisce “{“detail”:“Not authenticated”}”

Il mio sospetto è che il token Fernet fallisca a causa del segno “=” convertito in “%3D”, ma sono ancora più perplesso con openWebUI a causa di “Not authenticated”, mentre il token è solo una stringa.

Non ho idea di come il plugin “discourse-ai” invii il token/API_KEY nel caso di vLLM, ma spero che sia tramite l’header "Bearer ".

Qualsiasi aiuto è benvenuto o esperienza nella configurazione di vLLM con API_KEY

[Falco]

Prova a impostare il Provider API su OpenAI se hai bisogno dell’API nel formato token di portatore (bearer token).

[vykozlov (Valentin)]

Ha funzionato almeno per openWebUI! Grazie mille!

[hameedacpa (Abdelhamid)]

Ho un problema relativo all’output dell’IA nel mio forum. La lingua del mio forum è “arabo”, quindi dovrebbe essere impostata per configurare la lingua dell’output dell’IA in modo che sia adatta alla lingua del forum, poiché non è appropriato chiedere un riepilogo dell’argomento e l’intero argomento in arabo e l’output mi arriva in “inglese”.

[Jagster (Jakke Lehtonen)]

Indica nei prompt che l’AI dovrebbe rispondere in arabo. In teoria, anche “rispondi usando la stessa lingua” dovrebbe funzionare, ma raramente ha funzionato per me, nel contesto finlandese con i modelli OpenAI in ogni caso.

Quindi hai un’impostazione e quella è il prompt di sistema dell’agente/persona AI utilizzata.

[satonotdead]

Ha senso usare questo comportamento come predefinito quando viene rilevata una lingua diversa dall’inglese?

Sto ripetendo tutte le persone usando lo spagnolo, è difficile tenerle aggiornate con così tanti (buoni) cambiamenti.

[hameedacpa (Abdelhamid)]

Come posso attivare questo forum researcher (dove nelle impostazioni) perché non è chiaro

[Moin]

Puoi configurarlo nella scheda Personas del plugin AI.

Forum Researcher AI Persona guide

This guide explains the Forum Researcher persona in Discourse AI, how it works, and how to configure it for in-depth forum content analysis. Required user level: Administrator (to enable and configure), All users (to interact, if granted access) Understanding and using the Forum Researcher persona The Discourse AI plugin includes the Forum Researcher persona, a powerful tool designed for conducting in-depth research on the content within your forum. This per…