Garnicht, und ich habe außerdem einen internen Nginx-Proxy mit einem Skript verwendet, um die Token-Anmeldung auf Vertex zu rotieren.
LiteLLM ist wirklich gut, wenn du vorhattest, mehr Keys und MCP-Server zu deployen und mehr LLM-Endpunkte nutzen möchtest.
Damit kannst du fast jedes Abo-Level als LLM-API verwenden.