Discourse AI に Google Cloud AI を接続するにはどうすればよいですか。
投稿に記載されている手順を試してみました。
しかし、GCP のインターフェースが変わっています。
以下の記事に記載されている内容も試してみました。
しかし、まだ以下のエラーが発生しています。
当面はワークアラウンド（Google Cloud Run → vLLM）を使用していますが、この方法ではレイテンシが非常に高いです。
このエラーを修正する方法を教えてください。GCP で利用可能な AI モデルのいずれかをデフォルトの LLM として使用したいと考えています。
DiscourseでLiteLLMプロキシを通じて使用しました。300米ドル分の無料ボーナスクレジットを提供しています。
@Lilly 私もGCPにクレジットがあるので、Vertex経由で接続しようとしています。
@satonotdead LiteLLMメソッドでレイテンシーを感じますか？
Lilly
(Lillian )
5
私はVertexを使ってセットアップしたことがありません。ただ、Gemini APIサービスを使うと完璧に動作します。設定を一通り確認してみましたが、Google CloudダッシュボードのAPIとサービス、そして認証情報の設定に何の変化もありません。 
Lilly
(Lillian )
6
そこに引用されているドキュメントは確認しましたか？ その内容は何かを教えてくれますか？
Geminiメソッドを使用すると、GCPのクレジットを利用できないGemini AI Studioに接続されるため、保有しているクレジットは使用されません。
Lilly
(Lillian )
10
gemini flash 3.6 の新しい設定をさっき行いました。追加でやらなければならなかったのは、使用する API キーを設定することだけでした（私の場合は 2026-07-02 という名前のものです）。flash 3.6 のデフォルト設定から何も変更せず、テストも正常に完了し、問題なく動作しました：
ただし、API キーの認証情報は vertex ではなく、gemini api サービスを使用しています。
私の GCP 設定は、disco-docs でリンクされていたスクリーンショットとまったく同じです（それらは私の GCP 設定のスクリーンショットです）。
はい、この方法は機能しますが、すでに持っているGCPクレジットを使用することができません。
Lilly
(Lillian )
12
つまり、クレジットはVertex AIに限定されるということですか？
私は有料のGCPとサービスアカウント、そしてGemini APIを使っているだけです。とてもシンプルです。
はい、クレジットはVertexメソッドでのみ機能します。GCPにログインすればVertex AIを使用することはできますが、GCPが受け入れる認証方式とDiscourseが採用している認証方式に不整合があるため、Discourseとの接続ができていません（私の理解では）。そのため、現在はLiteLLMプロキシを作成していますが、この方法ではレイテンシが発生します。
全くありません。また、Vertexでトークンログインをローテーションするスクリプトを使って、Nginxの内部プロキシも利用しました。
LiteLLMは、より多くのキーやMCPサーバーをデプロイする予定があり、より多くのLLMエンドポイントを使用したい場合に非常に優れた選択肢です。
これを使えば、ほぼすべてのサブスクリプションプランをLLM APIとして利用できます。
より軽量なモデルに切り替えたら、遅延がなくなりました。ありがとうございます。
LiteLLMのワークアラウンドで問題ないため、Vertexのメソッドが動作していないものの、このトピックをクローズします。
