¿Cómo conecto Google Cloud AI con Discourse AI?
Intenté los pasos mencionados en la publicación
pero la interfaz de GCP ha cambiado.
Intenté lo que se menciona en
Pero sigo encontrando el siguiente error
Por ahora, estoy usando una solución alternativa (Google Cloud Run → vLLM), pero la latencia es muy alta con ese método.
¿Alguien puede decirme cómo corrijo este error? Quiero usar uno de los modelos de IA disponibles en GCP como LLM predeterminado.
¿Por qué estás usando Vertex AI?
Lo usé en Discourse a través del proxy de LiteLLM. Ofrecen 300 USD en créditos bono gratuitos.
@Lilly También tengo créditos en GCP, por eso estoy intentando conectarme a través de Vertex.
@satonotdead ¿Experimentas algún retraso con el método de LiteLLM?
Nunca lo he configurado usando Vertex. Sin embargo, funciona perfectamente bien usando el servicio de la API de Gemini. Solo he revisado la configuración y no veo ningún cambio en el panel de Google Cloud para las API y los servicios, ni en la configuración de credenciales. 
¿Viste la documentación que se cita ahí? ¿Qué te dice?
ni siquiera uso esto
¿Puedes compartir una captura de pantalla de tu configuración?
acabo de hacer una nueva configuración de gemini flash 3.6 y lo único que tuve que hacer fue establecer la clave de API a utilizar (que en mi caso se llama 2026-07-02). No cambié nada más de la configuración predeterminada de flash 3.6 y se probó con éxito y funcionó bien:
pero la credencial de la clave de API está utilizando el servicio de la API de gemini, no vertex.
mi configuración de GCP se ve exactamente igual a lo que enlazaste en las capturas de pantalla de disco-docs (¡esas son capturas de pantalla de mi configuración de GCP!).
Sí, este método funciona, pero no me permite utilizar los créditos de GCP que ya tengo.
vale, entonces los créditos están limitados a Vertex AI, ¿no?
solo estoy usando mi cuenta de GCP de pago con una cuenta de servicio y la API de Gemini; es muy sencillo.
Sí, los créditos solo funcionan con el método Vertex. Puedo usar Vertex AI iniciando sesión en GCP, pero no logro conectarlo con Discourse, ya que, según entiendo, existe una discrepancia entre el método de autenticación que GCP acepta y el que sigue Discourse. Por eso, por ahora, creé un proxy de LiteLLM, aunque con ese método hay cierta latencia.
En absoluto, y también usé un proxy interno de Nginx con un script para rotar el inicio de sesión del token en Vertex.
LiteLLM es realmente bueno si tienes planes de desplegar más claves, servidores MCP y quieres usar más puntos finales de LLM.
Puedes usar casi cualquier nivel de suscripción como API de LLM con él.
Cambié a un modelo más ligero y ahora no hay latencia. Gracias.
Cierro este tema, aunque el método de Vertex no funciona, ya que la solución alternativa de LiteLLM es suficiente.
