KI wird abgeschnitten, bevor sie fertig schreibt

Letztes Update zu dieser Angelegenheit:

Nachdem ich das AI Gateway aus den Modellen entfernt hatte, kann ich mit Sicherheit sagen, dass das Problem behoben ist. Warum es anfing, weiß ich nicht.

Aber vor ein paar Minuten schlug eine wöchentliche Automatisierung, die eine Zusammenfassung der Woche veröffentlichte, mit demselben Abbruch fehl. Mir wurde klar, dass sie ein anderes Modell verwendete, das noch das AI Gateway nutzte. Ich habe das Gateway entfernt und die Zusammenfassung etwa dreimal ausgelöst, und es gab keinen einzigen Fehler.

Wenn Ihr KI-Modell also abgeschnitten wird, bevor es alles geschrieben hat, und Sie zufällig das AI Gateway von Cloudflare verwenden, ist der erste Schritt, die Modell-API direkt abzufragen!