一部のワークフローでは、負荷の高い処理を主にエージェントに任せていました。最近では、大きなプロンプトを読み込むエージェントノードからロジックをコードへと移植しています。
そうする理由は以下の通りです:
- _大量_のトークンを節約できる
- ワークフローの実行がはるかに高速になる
- 動作がより予測可能になる
エージェントは物事を素早く始めるには優れた方法でしたが、現在は速度と信頼性を求めています。
いくつかを移植した後、あるテスト実行中に、初めてこのエラーに遭遇しました:
Sandbox execution time exceeded 1000ms for this workflow
以前のワークフローでは、エージェントノードに依存していたため、はるかに時間がかかっていたので、このエラーには驚きました。
しかしどうやら、エージェントノードの実行時間は異なる方法でカウントされるか、何か違うことがあるようです。おそらく、これはこの部分で設定され、評価されていると思われます:
注目すべき点の一つは、このワークフローでループを使用していることです。
これは、外部データソースからかなり大きくなる可能性のあるデータセットを一括処理します。ループはこの処理をうまく行い、ループごとのバッチサイズを設定することで、スムーズな実行を可能にしています。
しかし、ワークフロー全体に適用されるタイムアウトがこの場合、問題を引き起こす可能性があります。
正しい解決策が何かはわかりませんが、私にははるかに効率的に感じるこれらのワークフローがこのタイムアウトに引っかからずに実行できるような「回避策」が欲しいです。
