我正在我的论坛上配置 Discourse AI,并有一个 AI 机器人/代理正在通过 LiteLLM 和 Google Vertex AI 使用 Gemini 2.5 Flash。
机器人可以正常工作,但我遇到了作用域方面的问题。
例如,我的论坛是一个以商业为主题的社区。如果我向机器人提问:
“Uber 的所有者是谁?”
它会利用大语言模型(LLM)的通用知识来回答这个问题,尽管该问题与我的论坛毫无关系。
这带来了两个问题:
- 我希望机器人充当特定于论坛的知识助手,而不是通用的 Gemini/ChatGPT 接口。
- 我不希望用户能够随意提问并消耗我的 LLM 额度。
我理想中的工作流程是:
用户提出问题
↓
该问题是否与本论坛相关?
↓
否 → 礼貌拒绝
↓
是
↓
搜索论坛知识
↓
基于论坛内容生成回答

