AIでトピック要約、無限ロード、無効なJSONペイロード受信？

[KhoiUSA]

こんにちは、最近フォーラムのトピック要約機能が完全に動作しなくなったようで、トピック要約の生成リクエストが無限にハングしています。サイト上の他のAIツール（要約gistやAIコンポーザーヘルパーなど）は正常に動作していることに注意してください。

以下は、トピック要約モーダルがハングしているように見える画像の例です。

関連と思われるログエントリを以下に示します。

DiscourseAi::Completions::Endpoints::Gemini: status: 400 - body: {
  "error": {
    "code": 400,
    "message": "Invalid value at 'generation_config.response_schema.type' (type.googleapis.com/google.ai.generativelanguage.v1beta.Type), \"json_schema\"\nInvalid JSON payload received. Unknown name \"json_schema\" at 'generation_config.response_schema': Cannot find field.",
    "status": "INVALID_ARGUMENT",
    "details": [
      {
        "@type": "type.googleapis.com/google.rpc.BadRequest",
        "fieldViolations": [
          {
            "field": "generation_config.response_schema.type",
            "description": "Invalid value at 'generation_config.response_schema.type' (type.googleapis.com/google.ai.generativelanguage.v1beta.Type), \"json_schema\""
          },
          {
            "field": "generation_config.response_schema",
            "description": "Invalid JSON payload received. Unknown name \"json_schema\" at 'generation_config.response_schema': Cannot find field."
          }
        ]
      }
    ]
  }
}

他にこの問題に遭遇した方はいらっしゃいますか？または、解決策をご存知でしたら教えていただけますか？よろしくお願いします。

[Falco]

どちらのモデルを使用していますか？

[KhoiUSA]

現在、無料版のGemini 2.0 Flashを使用しています。

[Falco]

プロバイダーを「OpenAI」に、エンドポイントを https://generativelanguage.googleapis.com/v1beta/chat/completions に設定してみてください。

[KhoiUSA]

@Falco

https://generativelanguage.googleapis.com/v1beta/chat/completions

ご提示いただいた手順を実行し、LLMが期待どおりに動作することを確認しました。ありがとうございます！

[sam (Sam Saffron)]

解決されて非常に嬉しいですが、まだ修正すべきバグがあると思います @Falco / @Roman

モデルがJSONを返すと述べたにもかかわらず、実際には返さない場合に、フォールバックすべきかもしれません。これは評価すべき領域の1つです。

[Falco]

@sam

解決できて非常に嬉しいですが、まだ修正すべきバグがあると思います @Falco / @Roman_Rizzi

ええ、間違いなく。モデルではなくGoogle APIに切り分けるのを手伝いたかったので、今週中に修正に取り組むことができます。

[Roman (Roman Rizzi)]

Gemini のエラーは、次の場所で修正されました。

FIX: Structured output discrepancies.

JSON スキーマの形式がわずかに異なっていることが原因でした。また、モデルが JSON 形式で応答するように求められた際に無効な JSON を返した場合、プレーンテキストとして扱うようになります。