Comment connecter Google Cloud AI à Discourse AI ?
J’ai suivi les étapes mentionnées dans le post
mais l’interface GCP a changé.
J’ai également essayé ce qui est indiqué ici :
Mais je rencontre toujours l’erreur suivante :
Pour l’instant, j’utilise une solution de contournement (Google Cloud Run → vLLM), mais la latence est très élevée avec cette méthode.
Pouvez-vous m’indiquer comment corriger cette erreur ? Je souhaite utiliser l’un des modèles d’IA disponibles sur GCP comme LLM par défaut.
pourquoi utilisez-vous Vertex AI ?
Je l’ai utilisé dans Discourse via le proxy LiteLLM. Ils offrent 300 USD de crédits bonus gratuits.
@Lilly J’ai également des crédits sur GCP, c’est pourquoi j’essaie de me connecter via Vertex.
@satonotdead Est-ce que vous rencontrez des latences avec la méthode LiteLLM ?
je ne l’ai jamais configuré avec Vertex. Ça fonctionne parfaitement bien avec le service d’API Gemini. J’ai parcouru la configuration et je ne vois aucun changement dans le tableau de bord Google Cloud pour les API et services, ni pour la configuration des identifiants. 
as-tu vu la documentation qui est citée là-dedans ? Que te dit-elle ?
je ne m’en sers même pas
Pouvez-vous partager une capture d’écran de votre configuration ?
je viens de faire une nouvelle configuration de gemini flash 3.6 et tout ce que j’ai eu à faire, c’est de définir la clé API à utiliser (qui, dans mon cas, s’appelle 2026-07-02). je n’ai rien changé par rapport à la configuration par défaut de flash 3.6 et le test a réussi et tout a fonctionné correctement :
mais le jeton d’authentification de la clé API utilise le service gemini api, pas vertex.
ma configuration GCP ressemble exactement à ce que vous avez lié dans les captures d’écran des disco-docs (ce sont des captures d’écran de ma configuration GCP !).
Oui, cette méthode fonctionne, mais elle ne me permettra pas d’utiliser les crédits GCP que je possède déjà.
ok donc les crédits sont limités à Vertex AI ?
j’utilise simplement mon GCP payant avec un service account et l’API Gemini - c’est très simple.
Oui, les crédits ne fonctionnent qu’avec la méthode Vertex. Je parviens à utiliser Vertex AI en me connectant à GCP, mais je ne parviens pas à le connecter à Discourse, car, selon ma compréhension, il y a une incompatibilité entre la méthode d’authentification acceptée par GCP et celle suivie par Discourse. C’est pourquoi j’ai mis en place un proxy LiteLLM pour l’instant, mais cette méthode entraîne une certaine latence.
Pas du tout, et j’ai aussi utilisé un proxy interne Nginx avec un script pour faire tourner l’authentification par jeton sur Vertex.
LiteLLM est vraiment excellent si tu as l’intention de déployer plus de clés, des serveurs MCP et d’utiliser davantage de points de terminaison LLM.
Tu peux y utiliser presque n’importe quel niveau d’abonnement comme API LLM.
J’ai basculé sur un modèle plus léger et il n’y a plus de latence. Merci.
Je ferme ce sujet, même si la méthode Vertex ne fonctionne pas, car le contournement LiteLLM est suffisant.
