我认为 discourse-ai API 需要一次回归

那会很好,我不是,也不能要求 Discourse 团队,所以只是提出一些建议。

使用旧的“分隔符”解决方案来实现更健壮的解析,一种类似 XML 的原始内容,如下所示:

<SUMMARY_START>
摘要内容。
<SUMMARY_END>

<SUGGESTIONS_START>
<SUGGESTION_START>
建议 1
<SUGGESTION_END>
<SUGGESTION_START>
建议 2
<SUGGESTION_END>
...
<SUGGESTIONS_END>

然后不关心 <START><END> 之外的任何内容,我相信即使是最愚蠢的生产 AI 模型也能正确处理标签。

并要求 AI 不要添加额外的描述;然后警告管理员,如果打开该复选框可能会出现问题。谢谢。

我不知道 Discourse AI 生成的请求体是什么样的。但如果不是,只需将系统提示放在由 system 角色发送的第一条消息中,将向量数据库查询结果放在下一条 system 角色消息中,并将帖子内容或其他实际数据放在 user 角色消息中。