Как подключить Google Cloud AI для Discourse AI.
Я попытался выполнить шаги, описанные в этом посте:
но интерфейс GCP изменился.
Я также попробовал то, что описано здесь:
Но всё равно сталкиваюсь с следующей ошибкой:
Пока я использую обходной путь (Google Cloud Run → vLLM), но задержка при таком методе очень высокая.
Не мог бы кто-нибудь подсказать, как исправить эту ошибку? Я хочу использовать одну из моделей ИИ, доступных на GCP, в качестве LLM по умолчанию.
Почему вы используете Vertex AI?
Я использовал его в Discourse через прокси LiteLLM. Они предоставляют 300 долларов США в виде бесплатных бонусных кредитов.
@Lilly У меня также есть кредиты в GCP, поэтому я пытаюсь подключиться через Vertex.
@satonotdead Вы испытываете какую-либо задержку при использовании метода LiteLLM?
я никогда не настраивал это через Vertex. Однако с использованием API-сервиса Gemini всё работает идеально. Я прошёл по всем шагам конфигурации, но не вижу никаких изменений в дашборде Google Cloud ни в разделах API и сервисов, ни в настройке учётных данных. 
вы видели документацию, на которую там дана ссылка? что она вам говорит?
я даже этим не пользуюсь
Можете ли вы поделиться скриншотом вашей конфигурации?
я только что сделал новую конфигурацию gemini flash 3.6, и мне пришлось лишь установить api-ключ для использования (в моем случае он называется 2026-07-02). я ничего другого не менял в настройках по умолчанию для flash 3.6, тест прошёл успешно, всё работает нормально:
но учётные данные api-ключа используют сервис gemini api, а не vertex.
моя конфигурация GCP выглядит точно так же, как на скриншотах из disco-docs, на которые вы ссылались (это скриншоты моей конфигурации GCP!).
Да, этот метод работает, но он не позволит мне использовать уже имеющиеся кредиты GCP.
ок, значит, кредиты ограничиваются только Vertex AI?
я просто использую свою платную GCP с сервисным аккаунтом и Gemini API — всё очень просто.
Да, кредиты работают только с методом Vertex. Я могу использовать Vertex AI, войдя в GCP, но не могу подключить его к Discourse, поскольку, по моему пониманию, существует несоответствие между методом аутентификации, который принимает GCP, и тем, которого придерживается Discourse. Именно поэтому я пока создал прокси LiteLLM, но с этим методом есть некоторая задержка.
Нисколько, и я также использовал внутренний прокси Nginx со скриптом для ротации токена входа на Vertex.
LiteLLM действительно хорош, если вы планируете развертывать больше ключей, серверов MCP и хотите использовать больше конечных точек LLM.
С его помощью вы можете использовать практически любой уровень подписки в качестве LLM API.
Я перешёл на более лёгкую модель, и теперь задержек нет. Спасибо.
Закрываю эту тему, хотя метод Vertex не работает, так как обходное решение с LiteLLM подходит.
