Abbiamo dovuto limitare max_tokens poiché il nostro utilizzo di output strutturati significava che molti modelli più piccoli potevano facilmente entrare in loop infiniti durante le traduzioni.
Credo che la versione più recente dell’API OpenAI Responses applichi max_tokens senza contare i token di pensiero, il che risolve questo problema.