Karthik_K1
(Karthik K)
1
Wie verbinde ich Google Cloud AI mit Discourse AI?
Ich habe die im Beitrag genannten Schritte befolgt:
aber das GCP-Interface hat sich geändert.
Ich habe es auch so versucht, wie hier beschrieben:
Doch ich stoße immer noch auf den folgenden Fehler:
Zurzeit nutze ich einen Workaround (Google Cloud Run → vLLM), aber die Latenz ist mit dieser Methode sehr hoch.
Kann mir jemand sagen, wie ich diesen Fehler beheben kann? Ich möchte eines der auf GCP verfügbaren KI-Modelle als Standard-LLM verwenden.
