那会很好,我不是,也不能要求 Discourse 团队,所以只是提出一些建议。
使用旧的“分隔符”解决方案来实现更健壮的解析,一种类似 XML 的原始内容,如下所示:
<SUMMARY_START>
摘要内容。
<SUMMARY_END>
<SUGGESTIONS_START>
<SUGGESTION_START>
建议 1
<SUGGESTION_END>
<SUGGESTION_START>
建议 2
<SUGGESTION_END>
...
<SUGGESTIONS_END>
然后不关心 <START> 和 <END> 之外的任何内容,我相信即使是最愚蠢的生产 AI 模型也能正确处理标签。
并要求 AI 不要添加额外的描述;然后警告管理员,如果打开该复选框可能会出现问题。谢谢。
我不知道 Discourse AI 生成的请求体是什么样的。但如果不是,只需将系统提示放在由 system 角色发送的第一条消息中,将向量数据库查询结果放在下一条 system 角色消息中,并将帖子内容或其他实际数据放在 user 角色消息中。