Thema zusammenfassen mit AI lädt endlos, Ungültiges JSON-Payload empfangen?

[KhoiUSA]

Hallo, in letzter Zeit habe ich festgestellt, dass die Funktion Themenzusammenfassung in meinem Forum anscheinend überhaupt nicht mehr funktioniert und Anfragen zur Generierung einer Themenzusammenfassung unendlich lange hängen bleiben. Es ist bemerkenswert, dass die anderen KI-Tools auf der Website ordnungsgemäß funktionieren, wie z. B. Summarization Gists und AI Composer Helper.

Unten ist ein Bild des Themenzusammenfassungs-Modals, das scheinbar hängt:

Hier ist ein Protokolleintrag, der damit zusammenzuhängen scheint:

DiscourseAi::Completions::Endpoints::Gemini: status: 400 - body: {
  "error": {
    "code": 400,
    "message": "Ungültiger Wert für 'generation_config.response_schema.type' (type.googleapis.com/google.ai.generativelanguage.v1beta.Type), \\\"json_schema\\\"\nUngültiger JSON-Payload empfangen. Unbekannter Name \\\"json_schema\\\" für 'generation_config.response_schema': Feld nicht gefunden.",
    "status": "INVALID_ARGUMENT",
    "details": [
      {
        "@type": "type.googleapis.com/google.rpc.BadRequest",
        "fieldViolations": [
          {
            "field": "generation_config.response_schema.type",
            "description": "Ungültiger Wert für 'generation_config.response_schema.type' (type.googleapis.com/google.ai.generativelanguage.v1beta.Type), \\\"json_schema\\\""
          },
          {
            "field": "generation_config.response_schema",
            "description": "Ungültiger JSON-Payload empfangen. Unbekannter Name \\\"json_schema\\\" für 'generation_config.response_schema': Feld nicht gefunden."
          }
        ]
      }
    ]
  }
}

Sind andere auf dieses Problem gestoßen oder haben Sie eine Idee, wie man es lösen kann? Vielen Dank im Voraus.

[Falco]

Welches Modell verwenden Sie?

[KhoiUSA]

Ich verwende derzeit Gemini 2.0 Flash, kostenlose Stufe.

[Falco]

Können Sie versuchen, den Anbieter auf „OpenAI“ und den Endpunkt auf https://generativelanguage.googleapis.com/v1beta/chat/completions zu setzen?

[KhoiUSA]

@Falco

https://generativelanguage.googleapis.com/v1beta/chat/completions

Ich habe die von Ihnen beschriebenen Schritte ausgeführt und kann bestätigen, dass das LLM jetzt wie erwartet funktioniert. Danke!

[sam (Sam Saffron)]

Es freut mich sehr, dass es gelöst ist, aber ich denke immer noch, dass es hier einen Fehler gibt, den wir beheben sollten @Falco / @Roman

Die Dinge sollten vielleicht zurückfallen, wenn ein Modell aus irgendeinem Grund angibt, dass es JSON zurückgibt, es aber nicht tut. Dies ist ein Bereich, den wir bewerten sollten.

[Falco]

@sam

Sehr froh, dass es gelöst ist, aber ich denke immer noch, dass hier ein Fehler vorliegt, den wir beheben sollten, @Falco / @Roman_Rizzi

Oh, auf jeden Fall, ich wollte helfen, es auf die Google API statt auf das Modell zu beschränken, damit wir diese Woche an einer Lösung arbeiten können.

[Roman (Roman Rizzi)]

Der Gemini-Fehler wurde behoben in:

FIX: Structured output discrepancies.

Es wurde ein etwas anderes Format für das JSON-Schema erwartet. Außerdem behandeln wir die Vervollständigung nun als einfachen Text, wenn das Modell bei Aufforderung kein gültiges JSON zurückgibt.