Hardcodierten Workflow-Timeout entschärfen oder konfigurierbar machen

In einigen Workflows habe ich mich darauf verlassen, dass Agents die schwere Arbeit erledigen. Kürzlich habe ich damit begonnen, die Logik von Agent-Nodes, die große Prompts laden, in Code zu portieren.

Die Gründe dafür sind:

  • Einsparung einer riesigen Menge an Tokens
  • Workflow-Ausführungen sind viel schneller
  • Das Verhalten ist vorhersagbarer

Die Agents waren eine großartige Möglichkeit, schnell voranzukommen, aber jetzt wünsche ich mir Geschwindigkeit und Zuverlässigkeit.

Nachdem ich ein paar dieser Umstellungen vorgenommen hatte, bin ich bei einem Testlauf zum ersten Mal auf diesen Fehler gestoßen:

Sandbox-Ausführungszeit von 1000 ms für diesen Workflow überschritten

Das hat mich überrascht, da meine früheren Workflows, die auf Agent-Nodes basierten, viel länger dauerten.

Offenbar wird die Ausführungszeit von Agent-Nodes aber anders berechnet oder ähnlichem. Ich denke, hier wird dies festgelegt und evaluiert:

Eine Sache, die es zu beachten gilt, ist, dass ich in diesem Workflow eine Schleife verwende.

Sie verarbeitet Daten in Batches aus einer externen Datenquelle mit einem Datensatz, der ziemlich groß sein kann. Die Schleife handhabt das recht gut und ermöglicht es mir, die Batch-Größe pro Schleifendurchlauf zu konfigurieren, um einen reibungslosen Ablauf sicherzustellen.

Aber das bedeutet, dass ein Timeout, der auf den gesamten Workflow angewendet wird, in diesem Fall problematisch ist.

Ich bin mir nicht sicher, was die richtige Lösung dafür ist, aber ich möchte gerne einen „Ausweg“ haben und diese Workflows, die für mich viel effizienter wirken, ohne diesen Timeout ausführen lassen können.