我认为 discourse-ai API 需要一次回归

您能通过其在中国大陆的API端点尝试Moonshot AI Kimi K2吗?

基础API URL看起来是https://api.moonshot.cn/v1

我们之所以增加了结构化输出的要求,是因为我曾收到过成千上万的投诉,内容涉及模型添加“这是您的摘要”等问题,或者在获取AI助手建议标题列表时解析失败等。现在,随着翻译功能的加入,当您需要信任数百万次的LLM调用而不希望它们在输出中添加任何额外内容时,这个问题变得更加糟糕了。

考虑到可靠性的需求以及结构化输出的普遍可用性,我们在支持此功能的服务商那里做出了这一决定,但我愿意接受一个PR,为OpenAI提供商的API请求添加一个禁用结构化输出的复选框。

1 个赞