Como faço para conectar o Google Cloud AI ao Discourse AI?
Tentei seguir as etapas mencionadas no post
mas a interface do GCP mudou.
Tentei o que está descrito em
Mas ainda estou encontrando o seguinte erro
Por enquanto, estou usando uma solução alternativa (Google Cloud Run → vLLM), mas a latência é muito alta com esse método.
Alguém pode me dizer como corrigir esse erro? Quero usar um dos modelos de IA disponíveis no GCP como LLM padrão.
por que você está usando o Vertex AI?
Eu o usei no Discourse através do proxy LiteLLM. Eles oferecem 300 USD em créditos de bônus gratuitos.
@Lilly Eu também tenho créditos no GCP, por isso estou tentando me conectar via Vertex.
@satonotdead Você está experimentando alguma latência com o método LiteLLM?
nunca configurei usando o Vertex. No entanto, funciona perfeitamente bem usando o serviço da API Gemini. Apenas percorri a configuração e não vejo nenhuma alteração no dashboard do Google Cloud para as APIs e serviços, nem na configuração de credenciais. 
você viu a documentação que está citada lá? o que ela te diz?
e eu nem uso isso
Você pode compartilhar um screenshot da sua configuração?
acabei de fazer uma nova configuração do gemini flash 3.6 e tudo o que precisei fazer foi definir a chave de API a ser usada (que, no meu caso, é chamada de 2026-07-02). não mudei nada mais da configuração padrão do flash 3.6 e o teste foi bem-sucedido, funcionando perfeitamente:
mas a credencial da chave de API está usando o serviço da gemini api, não o vertex.
minha configuração do GCP parece exatamente com o que você linkou nas capturas de tela da disco-docs (essas são capturas de tela da minha configuração do GCP!).
Sim, esse método funciona, mas não me permitirá usar os créditos do GCP que já tenho.
ok, então os créditos são limitados ao Vertex AI, né?
estou apenas usando minha conta GCP paga com uma service account e a API do Gemini — bem simples.
Sim, os créditos funcionam apenas com o método Vertex. Consigo usar o Vertex AI fazendo login no GCP, mas não consigo conectá-lo ao Discourse, pois, conforme minha compreensão, há uma incompatibilidade entre o método de autenticação aceito pelo GCP e o utilizado pelo Discourse. Por isso, criei um proxy LiteLLM por enquanto, mas há alguma latência com esse método.
De forma alguma, e também usei um proxy interno do Nginx com um script para rotacionar o login de token no Vertex.
O LiteLLM é realmente bom se você tem planos de implantar mais chaves, servidores MCP e deseja usar mais endpoints de LLM.
Você pode usar praticamente qualquer nível de assinatura como API de LLM com ele.
Mudei para um modelo mais leve e agora não há mais latência. Obrigado.
Fechando este tópico, embora o método Vertex não esteja funcionando, o workaround do LiteLLM está funcionando bem.
