Come collego Google Cloud AI a Discourse AI?
Ho provato i passaggi indicati nel post
ma l’interfaccia di GCP è cambiata.
Ho provato quello che viene descritto su
Ma sto ancora riscontrando il seguente errore
Per ora sto usando una soluzione alternativa (Google Cloud Run → vLLM), ma la latenza con questo metodo è molto alta.
Qualcuno può dirmi come correggere questo errore? Vorrei usare uno dei modelli AI disponibili su GCP come LLM predefinito.