Se abilito thinking, il problema torna a essere un bug di regressione che avevo segnalato l’anno scorso: sembra che sia necessario impostare manualmente il numero di token utilizzati per il thinking e il sistema non accetta 0 né -1, e non accetta nemmeno di non specificare nulla, anche se viene indicato come facoltativo.
Sembra che il problema riguardi solo il modello Flash Lite, ma non il modello Flash (che funziona perfettamente, anche senza specificare token di ragionamento e con il ragionamento attivato).
Il modello Pro è completamente rotto: dopo l’aggiornamento non riesco a farlo funzionare in alcun modo, ricevo un errore interno del server.
Perché si tratta di un aggiornamento, Sam. Non si riesce a tenere il passo con il ritmo a cui Gemini produce modelli e API. L’idea è mantenere Discourse stabile e funzionante con ciò che funziona e con modifiche minime.
Non vedo Google disattivare gli endpoint dei modelli “legacy” per anni a venire: troppe app e sistemi li utilizzano e, come qualsiasi corporation, una volta che le cose sono in produzione non si depreca entro pochi mesi. Mi aspetterei allo stesso modo che le funzionalità che funzionano in Discourse continuino a funzionare (finché Discourse non se ne sbarazzerà). Se gli endpoint dei modelli sono supportati in Discourse, dovrebbero continuare a funzionare come prima dell’aggiornamento.
Inoltre, ho notato il punto relativo al fatto che l’ID del modello latest non sia supportato dagli endpoint di interazione: questo di per sé è un problema grave e introduce un significativo sovraccarico amministrativo.
Diciamo che lo configuro per utilizzare l’endpoint 3.5 e sei mesi dopo Google lo ritira: chi mi informa che la 3.5 è stata ritirata? Discourse no, né tanto meno Gemini (poiché funziona tramite Discourse). Il risultato finale è che un giorno, all’improvviso, tutto smette di funzionare e ora dobbiamo cercare di capire cosa sia successo.
