Discourse AI: le chiamate parallelhe agli strumenti vengono ignorate con Mistral (streaming)

Grazie mille @sam per la correzione rapida e @zogstrip per la rapida risposta

Tutto funziona come previsto :+1: e il risultato è ottimo: ora che l’agente può richiedere più letture in un’unica risposta, il mio scenario di test RAG utilizza il 43% in meno di chiamate LLM, impiega il 40% in meno di tempo per la ricerca e la lettura e costa il 33% in meno.

L’ho verificato su 2026.10.0-latest (f18a1985b, include #44270) con Mistral mistral-large-2512 (dopo aver rimosso il mio workaround parallel_tool_calls: false):

  • La riproduzione senza rete del mio primo post ora restituisce ogni chiamata: 2 su 2 e 3 su 3 in un unico chunk, anche con partial_tool_calls e tramite Endpoints::Mistral#decode_chunk. Una chiamata per chunk funziona ancora. (Lo script ora ha bisogno di un .flatten, poiché process_streamed_message può restituire un array.)
  • Con un agente RAG reale e senza workaround, Mistral ha inviato 4 letture parallele in un unico chunk e tutte e 4 sono state eseguite. In 14 esecuzioni dell’agente, ogni chiamata allo strumento richiesta è stata eseguita.

Grazie ancora!

2 Mi Piace