这很难做到,因为系统提示不仅控制指令,还控制预期的输出格式。
如果我们允许用户现在进行自定义,那么我们就注定要面对用户无休止的抱怨,因为每当我们因需要更新用于摘要、助手等功能的解析输出格式时,我们的更新就会破坏他们的网站。
一种解决方法是将所有内容都转向严格的格式,使用 Guidance / 函数调用 / 结构化输出。然而,生态系统才刚刚达到大多数提供商和自托管选项都可用这种成熟度。这一点很重要,因为 Discourse AI 不会将社区锁定在 OpenAI 上;它允许人们从数千种兼容的 LLM 中进行选择。
总而言之,这是我们想要做的事情,但我们不能敷衍了事。这意味着我们需要整个 AI 生态系统跟上步伐,而这现在才刚刚发生。