Assouplir le délai d'expiration codé en dur du flux de travail ou le rendre configurable

Dans certains workflows, je comptais sur les agents pour effectuer la majeure partie du travail. Récemment, j’ai porté la logique des nœuds d’agent qui chargeaient de grandes invites directement dans du code.

Les raisons de ce choix sont les suivantes :

  • économiser un énorme nombre de jetons
  • les exécutions des workflows sont beaucoup plus rapides
  • le comportement est plus prévisible

Les agents étaient un excellent moyen de démarrer rapidement, mais désormais, je recherche de la vitesse et de la fiabilité.

Après avoir migré quelques-uns de ces workflows, lors d’une exécution de test, j’ai rencontré cette erreur pour la première fois :

Le temps d'exécution du sandbox a dépassé 1000 ms pour ce workflow

Cela m’a surpris, car mes workflows précédents qui reposaient sur des nœuds d’agent prenaient beaucoup plus de temps.

Mais apparemment, le temps d’exécution des nœuds d’agent est compté différemment, ou quelque chose de similaire. Je pense que c’est ici que cette limite est définie et évaluée :

Il est important de noter que j’utilise une boucle dans ce workflow.

Elle traite les données par lots provenant d’une source de données externe, dont le jeu de données peut être très volumineux. La boucle gère très bien cela, ce qui me permet de configurer la taille des lots par itération pour maintenir le bon fonctionnement.

Mais, cela signifie qu’un délai d’attente s’appliquant à l’ensemble du workflow est quelque peu problématique dans ce cas.

Je ne suis pas sûr de la meilleure solution ici, mais j’aimerais disposer d’une “solution de contournement” permettant à ces workflows, qui me semblent beaucoup plus efficaces, de s’exécuter sans atteindre ce délai d’attente.