Come collego Google Cloud AI a Discourse AI?
Ho provato i passaggi indicati nel post
ma l’interfaccia di GCP è cambiata.
Ho provato quello che viene descritto su
Ma sto ancora riscontrando il seguente errore
Per ora sto usando una soluzione alternativa (Google Cloud Run → vLLM), ma la latenza con questo metodo è molto alta.
Qualcuno può dirmi come correggere questo errore? Vorrei usare uno dei modelli AI disponibili su GCP come LLM predefinito.
Perché stai usando Vertex AI?
L’ho usato su Discourse tramite il proxy LiteLLM. Offrono 300 USD di crediti bonus gratuiti.
@Lilly Anche io ho crediti su GCP, per questo sto cercando di connettermi tramite Vertex.
@satonotdead Sperimenti qualche latenza con il metodo LiteLLM?
non l’ho mai configurato usando Vertex. Funziona perfettamente usando il servizio Gemini API. Ho semplicemente esaminato la configurazione e non vedo alcun cambiamento nel dashboard di Google Cloud per le API e i servizi né nella configurazione delle credenziali. 
hai visto la documentazione citata lì? cosa ti dice?
non lo uso nemmeno io
Puoi condividere uno screenshot della tua configurazione?
ho appena fatto una nuova configurazione di gemini flash 3.6 e l’unica cosa che ho dovuto fare è stato impostare la chiave API da utilizzare (nel mio caso si chiama 2026-07-02). Non ho cambiato nulla rispetto alle impostazioni predefinite di flash 3.6 e il test è andato a buon fine, funzionando correttamente:
ma la credenziale della chiave API sta usando il servizio gemini api, non vertex.
la mia configurazione GCP è esattamente come quella che hai linkato negli screenshot di disco-docs (quegli screenshot sono della mia configurazione GCP!).
Sì, questo metodo funziona, ma non mi permetterà di utilizzare i crediti GCP che ho già.
ok, quindi i crediti sono limitati a Vertex AI, giusto?
Sto semplicemente usando il mio GCP a pagamento con un service account e l’API di Gemini — molto semplice.
Sì, i crediti funzionano solo con il metodo Vertex. Riesco a utilizzare Vertex AI accedendo a GCP, ma non riesco a collegarlo a Discourse perché, a quanto ho capito, c’è una discrepanza tra il metodo di autenticazione accettato da GCP e quello seguito da Discourse. Per questo motivo ho creato per ora un proxy LiteLLM, ma con quel metodo si riscontra una certa latenza.
Assolutamente no, e ho anche utilizzato un proxy interno Nginx con uno script per ruotare il token di accesso su Vertex.
LiteLLM è davvero ottimo se hai intenzione di distribuire più chiavi, server MCP e desideri utilizzare più endpoint LLM.
Con esso puoi utilizzare quasi qualsiasi livello di abbonamento come API LLM.
Sono passato a un modello più leggero e ora non c’è più latenza. Grazie.
Chiudo questo argomento, anche se il metodo Vertex non funziona, dato che la soluzione alternativa con LiteLLM va bene.
