Debugging delle funzioni AI di Discourse: quando OpenAI risponde ma il forum no

Grazie per aver sviluppato le funzioni AI per Discourse! Penso che questa sarà una funzionalità importante in futuro.

Ho provato a utilizzare il plugin AI nel nostro forum self-hosted (tff-forum.de). Dopo aver aggiunto la chiave API di Open AI nel pannello di amministrazione e aver attivato il modello “gpt-3.5-turbo-16k” per le diverse funzioni, vedo i pulsanti AI aggiuntivi in diversi punti del forum.

Quando clicco su uno dei pulsanti, non ricevo nulla in risposta o ricevo il messaggio di errore mostrato nello screenshot seguente.

Posso vedere le richieste API nella dashboard di utilizzo di Open AI, ma sembra che Discourse non stia ricevendo la risposta.

Ho provato anche gli altri modelli (gpt-35, gpt-4 ecc.). Il risultato è sempre lo stesso, ovvero le funzioni non forniscono alcuna risposta.

Il log degli errori di Discourse non mostra problemi relativi alle funzioni AI.

Potete fornire ulteriori informazioni su come eseguire il debug o analizzare il problema?

Prova le istruzioni seguenti sul tuo server.

1 Mi Piace

Grazie per lo script per verificare la funzionalità dell’API Open AI.

Abbiamo avviato lo script sul nostro server e abbiamo ottenuto la seguente risposta da gpt:

...
 {
 "index": 0,
 "message": {
 "role": "assistant",
 "content": "Nel cuore della rima codificata,\nEcco, c'è un concetto sublime.\nÈ la ricorsione, un'arte, un'antica tradizione,\nDi una funzione che chiama se stessa, questa è la missione.\n\nUna funzione così orgogliosa, non ascolterà la chiamata,\nDi nessun altro, si erge alta.\nSceglie di invocare se stessa di nuovo,\nCosì, tessendo schemi che incuriosiscono la vista.\n\nQuando inizia, si potrebbe supporre,\nDove finisce, nessuno lo sa?\nMa non temere il loop infinito,\nPerché il caso base è il nostro salvagente.\n\nAl raggiungimento della base così divinamente piccola,\nLa funzione alla fine si ferma.\nQuindi, si ferma e non si lega,\nRestituendo ciò che è destinata a trovare.\n\nChi farebbe un appello così sentito?\nUn modo elegante per chiudere l'accordo.\nRisolvere labirinti, o invertire stringhe,\nVedi la ricorsione spiegare le sue ali.\n\nOgni istanza ha il suo stack di memoria,\nPer tracciare il suo percorso, da davanti a dietro.\nE mentre queste istanze crescono,\nUna torre di memoria, esse conferiscono.\n\nSe fatto bene, l'armonia è pura,\nIl fascino della ricorsione, una vera attrazione.\nÈ eleganza, è profonda autonomia,\nUn gioiello nella corona della cerimonia degli algoritmi.\n\nÈ una danza, è un gioco, un eterno bis,\nNel teatro dei codici, dove giace la ricorsione.\nAmira la bellezza, ammira l'escursione,\nNel vasto regno del codice, questa è la ricorsione."
 },
 "logprobs": null,
 "finish_reason": "stop"
 }
 ],
 "usage": {
 "prompt_tokens": 39,
 "completion_tokens": 282,
 "total_tokens": 321
 },
 "system_fingerprint": null
}

Questa chiamata sembra funzionare. Ma quando attivo le funzioni AI di Discourse (ad esempio, “ai helper del compositore”) utilizzando la stessa chiave API Open AI, ottengo o nessuna risposta o il messaggio di errore mostrato nel primo post di questo thread.

Ci sono altre possibilità per eseguire il debug delle chiamate API Open AI?

Hai aggiornato all’ultima versione? Abbiamo spostato la configurazione LLM in un’area dedicata.

1 Mi Piace

Grazie per il tuo supporto. Abbiamo iniziato una ricostruzione oggi e ora le funzioni basate sull’API Open AI sembrano funzionare.

Ora ho notato un nuovo problema. Dopo la ricostruzione non sono più in grado di cambiare il modello open AI nelle impostazioni di amministrazione. L’elenco sembra essere vuoto ma Discourse utilizza ancora la mia ultima impostazione “gpt-4o”.

image

È un problema già noto? Pensi che un’altra ricostruzione possa risolverlo?

Mi dispiace, ho trovato la causa del mio problema. Come hai menzionato, gli LLM hanno ora un’area separata nelle impostazioni di amministrazione.

Dopo aver definito gli LLM di OpenAI, ora posso selezionare i modelli per le diverse funzioni AI.

1 Mi Piace

This topic was automatically closed 30 days after the last reply. New replies are no longer allowed.