完全没有,而且我还使用了一个 Nginx 内部代理,并通过脚本在 Vertex 上轮换令牌登录。
如果你计划部署更多的密钥、MCP 服务器并希望使用更多的 LLM 端点,LiteLLM 真的非常好用。
你可以用它将几乎任何订阅层级作为 LLM API 使用。
完全没有,而且我还使用了一个 Nginx 内部代理,并通过脚本在 Vertex 上轮换令牌登录。
如果你计划部署更多的密钥、MCP 服务器并希望使用更多的 LLM 端点,LiteLLM 真的非常好用。
你可以用它将几乎任何订阅层级作为 LLM API 使用。