Discourse AI: chamadas de ferramentas paralelas descartadas silenciosamente com Mistral (streaming)

Muito obrigado, @sam, pela correção rápida, e @zogstrip pela resposta rápida.

Tudo está funcionando como esperado :+1: e o resultado é excelente: agora que o agente pode solicitar várias leituras em 1 resposta, meu cenário de teste RAG usa 43% menos chamadas de LLM, gastou 40% menos tempo na busca e leitura e custou 33% menos.

Verifiquei isso na versão 2026.10.0-latest (f18a1985b, inclui #44270) com o Mistral mistral-large-2512 (após remover minha correção temporária parallel_tool_calls: false):

  • A reprodução sem rede do meu primeiro post agora retorna todas as chamadas: 2 de 2 e 3 de 3 em um único bloco, também com partial_tool_calls e através de Endpoints::Mistral#decode_chunk. Uma chamada por bloco ainda funciona. (O script agora precisa de um .flatten, pois process_streamed_message pode retornar um array.)
  • Com um agente RAG real e sem correção temporária, o Mistral enviou 4 leituras paralelas em um único bloco, e todas as 4 foram executadas. Em 14 execuções do agente, todas as chamadas de ferramenta solicitadas foram executadas.

Obrigado novamente!

2 curtidas