大家好，这是关于一个自托管实例我启用了 Discourse AI 插件，并在那里遇到了一些问题。在企业环境中工作，AI 访问是通过一个带有额外身份验证的内部端点。我实现了一个 AWS API Gateway 端点和一个 Lambda，它负责用所需的身份验证信息丰富标头，并将请求传递给兼容 OPENAI 的内部端点。 [该图像描绘了一个软件应用程序中大型语言模型 (LLM) 的设置页面，详细说明了它们的使用方式，并列出了一个名为 GPT-4o 的已配置 LLM，该 LLM 与 vLLM 提供商相关联。（由 AI 题注）] LLM 测试给了我一个 [image] 然…

主题总结不起作用 : -(

Falco (Falco) 2025 年5 月 28 日 15:27 4

如果它是一个与 OpenAI 兼容的端点，为什么提供商设置为 vLLM？

1 个赞