L'IA viene interrotta prima che finisca di scrivere

Ultimo aggiornamento sulla questione:

Dopo aver rimosso l’AI Gateway dai modelli, posso affermare con sicurezza che il problema è scomparso. Il motivo per cui ha iniziato a verificarsi è qualcosa che non capisco.

Ma pochi minuti fa, un’automazione settimanale che pubblicava un riepilogo della settimana è fallita con lo stesso troncamento. Ho capito che stava utilizzando un altro modello che utilizzava ancora l’AI Gateway. Ho rimosso il gateway e ho attivato il riepilogo circa 3 volte e non c’è stato un singolo fallimento.

Quindi, se la tua IA viene troncata prima di scrivere tutto, e stai utilizzando AI Gateway di Cloudflare, il primo passo è interrogare direttamente l’API del modello!