Ho alcuni workflow in cui mi sono affidato agli agenti per eseguire gran parte dei compiti più pesanti. Di recente, sto trasferendo la logica dai nodi degli agenti che caricano prompt di grandi dimensioni nel codice.
Le ragioni di questa scelta sono:
- risparmiare moltissimi token
- l’esecuzione dei workflow è molto più rapida
- il comportamento è più prevedibile
Gli agenti sono stati un ottimo modo per avviare rapidamente le cose, ma ora voglio velocità e affidabilità.
Dopo averne spostati un paio, durante un’esecuzione di prova, ho incontrato per la prima volta questo errore:
Sandbox execution time exceeded 1000ms for this workflow
Mi ha sorpreso, perché i miei workflow precedenti, che si basavano sui nodi degli agenti, richiedevano molto più tempo.
Ma a quanto pare, il tempo di esecuzione dei nodi degli agenti viene calcolato in modo diverso o qualcosa del genere. Credo che sia qui che questo limite viene impostato e valutato:
Una cosa degna di nota è che in questo workflow sto utilizzando un ciclo.
Elabora i dati in batch provenienti da una fonte di dati esterna con un set di dati che potrebbe essere piuttosto grande. Il ciclo gestisce bene questa situazione, consentendomi di configurare la dimensione dei batch per ogni iterazione del ciclo per mantenere tutto fluido.
Ma, ciò significa che un timeout che si applica all’intero workflow risulta un po’ problematico in questo caso.
Non sono sicuro di quale sia la soluzione giusta, ma vorrei avere qualche “via d’uscita” per consentire a questi workflow, che mi sembrano molto più efficienti, di funzionare senza raggiungere questo timeout.
