Suaviza el tiempo de espera fijo del flujo de trabajo o hazlo configurable

Tengo algunos flujos de trabajo en los que he dependido de agentes para realizar gran parte del trabajo pesado. Recientemente, he estado trasladando la lógica desde nodos de agentes que cargan prompts grandes hacia código.

La justificación para hacerlo es:

  • ahorrar una gran cantidad de tokens
  • las ejecuciones de los flujos de trabajo son mucho más rápidas
  • el comportamiento es más predecible

Los agentes fueron una gran manera de comenzar rápidamente, pero ahora quiero velocidad y fiabilidad.

Después de mover un par de estos, durante una ejecución de prueba, me encontré con este error por primera vez:

El tiempo de ejecución del sandbox excedió 1000 ms para este flujo de trabajo

Me pareció sorprendente, porque mis flujos de trabajo anteriores que dependían de nodos de agentes tardaban mucho más.

Pero, al parecer, el tiempo de ejecución del nodo de agente se cuenta de manera diferente o algo así. Creo que aquí es donde se establece y evalúa esto:

Una cosa digna de mencionar es que estoy usando un bucle en este flujo de trabajo.

Procesa elementos en lotes desde una fuente de datos externa con un conjunto de datos que puede ser bastante grande. El bucle maneja esto bastante bien, permitiéndome configurar el tamaño del lote por iteración para mantener las cosas funcionando sin problemas.

Pero, eso significa que un tiempo de espera que se aplica al flujo de trabajo en su conjunto es un poco problemático en este caso.

No estoy seguro de cuál es la solución correcta aquí, pero me gustaría tener alguna “salida” para permitir que estos flujos de trabajo, que siento que son mucho más eficientes, se ejecuten sin alcanzar este tiempo de espera.