Wenn ich Thinking aktiviere, tritt das Problem als Regressionsfehler wieder auf, den ich letztes Jahr gemeldet hatte. Es scheint, dass ich die Anzahl der für Thinking verwendeten Tokens hartkodieren muss. Es akzeptiert weder 0 noch -1 und akzeptiert auch nichts, obwohl es als optional angegeben ist.
Es scheint nur das Flash Lite Modell zu betreffen, aber nicht das Flash Modell (das einwandfrei funktioniert, auch ohne festgelegte Thinking-Tokens und aktiviertes Thinking).
Das Pro Modell ist komplett defekt. Nach dem Upgrade funktioniert es bei mir überhaupt nicht mehr; ich erhalte einen internen Serverfehler.
Denn es handelt sich um ein Upgrade, Sam. Man kann nicht mit dem Tempo mithalten, mit dem Gemini Modelle und APIs herausbringt. Die Idee ist es, Discourse stabil und lauffähig zu halten, mit dem, was funktioniert, und mit minimalen Änderungen.
Ich gehe nicht davon aus, dass Google die Endpunkte für „Legacy“-Modelle in den kommenden Jahren abschaltet. Zu viele Apps und Systeme nutzen sie, und wie bei jedem Unternehmen gilt: Sobald etwas im Produktivbetrieb ist, wird es nicht innerhalb weniger Monate ausgemustert. Ich würde ähnlich erwarten, dass Dinge, die in Discourse funktionieren, auch weiterhin funktionieren (bis Discourse sie entfernt). Wenn die Modell-Endpunkte in Discourse unterstützt werden, dann sollten sie so weiter funktionieren, wie es vor dem Upgrade der Fall war.
Außerdem habe ich den Punkt angemerkt, dass die Modell-ID latest von den Interaktions-Endpunkten nicht unterstützt wird – das an sich ist ein großes Problem und verursacht erheblichen Verwaltungsaufwand.
Sagen wir, ich richte es so ein, dass der 3.5-Endpunkt verwendet wird, und Google stellt ihn sechs Monate später ein – wer informiert mich dann, dass 3.5 eingestellt wurde? Weder Discourse noch Gemini (da es über Discourse läuft). Das Ergebnis ist, dass eines Tages plötzlich alles aufhört zu funktionieren und wir nun herausfinden müssen, was passiert ist.
