非常感谢
1 个赞
我们可以使用 Deepseek 吗？
3 个赞
当然，它有一个与OpenAI兼容的API。
5 个赞
请，我在管理员 > AI 设置中找不到此设置（也找不到您在您截图中显示的设置）。
1 个赞
此设置在“角色”中可用，选择一个特定的可编辑（非系统）角色，然后查看提示下方。
2 个赞
4 篇帖子已合并到现有主题：RAG 未来会支持 PDF 文件吗？
一篇帖子被拆分到新主题中：在主题接收AI回应时提供视觉提示
2 篇帖子已拆分到一个新主题：向我的角色添加知识的方法
2 篇帖子已拆分为新主题：对 AI 插件的个人隐私担忧
欢迎来到 Discourse Meta！
您想将此帖子发布到 Support
3 个赞
大家好，我们正在自托管 vLLM 并使用 Fernet 生成 API 令牌，这些令牌包含“=”符号。通过查看 /var/discourse/shared/standalone/log/var-log/nginx/error.log，我发现“=”符号被替换为“%3D”，因此我的请求未获得授权。
这可能吗？可以解决吗？
感谢您的输入。
我的情况很简单。我们已经有 vLLM 和 openWebUI 服务向外界公开 LLM。两者都运行良好。我还可以通过简单的 cURL 调用来检查我是否确实可以从 Discourse 容器内部访问两者：
vLLM:
curl -v ${LLM_URL} -H "Content-Type: application/json" -H "Authorization: Bearer ${LLM_TOKEN}" \
-d '{
"model": "'"${LLM_MODEL}"'",
"prompt": "'"${TEST_PROMPT}"'",
"max_tokens": 128,
"temperature": 0
}'
openWebUI:
curl -v ${LLM_URL} -H "Content-Type: application/json" -H "Authorization: Bearer ${LLM_TOKEN}" \
-d '{
"model": "'"${LLM_MODEL}"'",
"messages": [
{ "role": "user",
"content": "'"${TEST_PROMPT}"'"
}
]
}'
现在我在一个自托管的 Discourse 上安装了 discourse-ai 插件，并尝试通过“LLMs”-“>“手动配置”-”>Provider=vLLM 配置访问。在这两种情况下，我都必须提供 API 密钥（API KEY）。不幸的是，没有一个有效：
vLLM 使用 Fernet 令牌返回 “error”:“Unauthorized”}
openWebUI 返回 “{“detail”:“Not authenticated”}”
我怀疑 Fernet 令牌失败是因为“=”符号转换为“%3D”，但“Not authenticated”让我更加困惑，因为令牌只是一个字符串。
我不知道“discourse-ai”插件在 vLLM 的情况下如何发送令牌/API_KEY，但我希望它是通过“Bearer
任何帮助或配置带有 API_KEY 的 vLLM 的经验都将不胜感激。
如果您的 API 需要 bearer token 格式，请尝试将 API 提供商设置为 OpenAI。
至少对于openWebUI来说，这奏效了！非常感谢！
已将 2 篇帖子拆分到一个新主题：用于测试 Discord 搜索和发现的最佳模型和提示
我在论坛的AI输出方面遇到问题
我的论坛语言是“阿拉伯语”，因此应该设置AI输出的语言，使其与论坛语言相符，因为用阿拉伯语提问主题摘要和所有主题，但输出结果却是“英语”是不合适的。
在提示中说明人工智能应该用阿拉伯语回复。理论上，“使用相同语言回复”也应该有效，但至少在使用 OpenAI 模型的芬兰语环境中，对我来说很少有效。
所以你有一个设置，那就是所使用的 AI 代理/人员的系统提示。
当检测到英语以外的其他语言时，将此行为用作默认行为是否有意义？
我正在用西班牙语重复所有角色，但有这么多（好的）更改，很难保持它们的更新。
您可以在 AI 插件的“角色”选项卡中进行配置。
4 个赞