ハードコードされたワークフローのタイムアウトを緩和するか、設定可能にする

一部のワークフローでは、負荷の高い処理を主にエージェントに任せていました。最近では、大きなプロンプトを読み込むエージェントノードからロジックをコードへと移植しています。

そうする理由は以下の通りです:

  • _大量_のトークンを節約できる
  • ワークフローの実行がはるかに高速になる
  • 動作がより予測可能になる

エージェントは物事を素早く始めるには優れた方法でしたが、現在は速度と信頼性を求めています。

いくつかを移植した後、あるテスト実行中に、初めてこのエラーに遭遇しました:

Sandbox execution time exceeded 1000ms for this workflow

以前のワークフローでは、エージェントノードに依存していたため、はるかに時間がかかっていたので、このエラーには驚きました。

しかしどうやら、エージェントノードの実行時間は異なる方法でカウントされるか、何か違うことがあるようです。おそらく、これはこの部分で設定され、評価されていると思われます:

注目すべき点の一つは、このワークフローでループを使用していることです。

これは、外部データソースからかなり大きくなる可能性のあるデータセットを一括処理します。ループはこの処理をうまく行い、ループごとのバッチサイズを設定することで、スムーズな実行を可能にしています。

しかし、ワークフロー全体に適用されるタイムアウトがこの場合、問題を引き起こす可能性があります。

正しい解決策が何かはわかりませんが、私にははるかに効率的に感じるこれらのワークフローがこのタイムアウトに引っかからずに実行できるような「回避策」が欲しいです。