使用AI无限加载总结主题,收到无效的JSON负载?

您好,我最近注意到我的论坛上的主题摘要功能似乎完全停止工作了,生成主题摘要的请求会无限期地挂起。值得注意的是,网站上的其他 AI 工具运行正常,例如摘要要点和 AI 组合助手。

下面是主题摘要模态框似乎挂起的图片:

这是相关的日志条目:

DiscourseAi::Completions::Endpoints::Gemini: status: 400 - body: {
  "error": {
    "code": 400,
    "message": "Invalid value at 'generation_config.response_schema.type' (type.googleapis.com/google.ai.generativelanguage.v1beta.Type), \"json_schema\"\nInvalid JSON payload received. Unknown name \"json_schema\" at 'generation_config.response_schema': Cannot find field.",
    "status": "INVALID_ARGUMENT",
    "details": [
      {
        "@type": "type.googleapis.com/google.rpc.BadRequest",
        "fieldViolations": [
          {
            "field": "generation_config.response_schema.type",
            "description": "Invalid value at 'generation_config.response_schema.type' (type.googleapis.com/google.ai.generativelanguage.v1beta.Type), \"json_schema\""
          },
          {
            "field": "generation_config.response_schema",
            "description": "Invalid JSON payload received. Unknown name \"json_schema\" at 'generation_config.response_schema': Cannot find field."
          }
        ]
      }
    ]
  }
}

有人遇到过这个问题吗?或者有什么解决办法吗?提前感谢。

您正在使用什么模型?

1 个赞

我目前使用的是 Gemini 2.0 Flash,免费套餐。

1 个赞

您能否尝试将 provider 设置为“OpenAI”,并将 endpoint 设置为 https://generativelanguage.googleapis.com/v1beta/chat/completions

1 个赞

我已经按照您给出的步骤操作,并且可以确认大型语言模型现在运行正常。谢谢!

1 个赞

很高兴问题已解决,但我仍然认为这里有一个 bug 需要我们解决 @Falco / @Roman

如果模型因任何原因表示将返回 JSON 但未返回,则可能需要进行回退。这是我们需要评估的一个领域。

1 个赞

哦,当然,我想帮助将其隔离到 Google API 而不是模型,以便我们本周可以着手修复。

4 个赞

Gemini 错误已修复:

它期望 JSON 架构的格式略有不同。此外,如果模型在被要求时未返回有效 JSON,我们现在将把完成视为纯文本。

5 个赞

此话题在2天后自动关闭。不再允许新回复。