Máximo uso consecutivo de ferramenta na resposta

Acho que vejo o bug aqui… geralmente max_tools estava lá para evitar grandes cadeias com chamadas de ferramentas, mas provavelmente existem 2 tipos diferentes de max:

  • Max de vezes que fazemos ida e volta com o LLM antes de responder
  • Quantidade máxima de chamadas de ferramentas (que pode ser muito maior)
  • Max de contexto que as ferramentas podem injetar. (por exemplo, se você estourar o contexto em 3 chamadas de ferramentas e depois adicionar mais 2 que fazem o modelo esquecer 2 respostas de ferramentas)

Vou pensar sobre isso, é solucionável.

3 curtidas