Как подключить Google Cloud AI для Discourse AI.
Я попытался выполнить шаги, описанные в этом посте:
но интерфейс GCP изменился.
Я также попробовал то, что описано здесь:
Но всё равно сталкиваюсь с следующей ошибкой:
Пока я использую обходной путь (Google Cloud Run → vLLM), но задержка при таком методе очень высокая.
Не мог бы кто-нибудь подсказать, как исправить эту ошибку? Я хочу использовать одну из моделей ИИ, доступных на GCP, в качестве LLM по умолчанию.