Grazie mille @sam per la correzione rapida e @zogstrip per la rapida risposta
Tutto funziona come previsto
e il risultato è ottimo: ora che l’agente può richiedere più letture in un’unica risposta, il mio scenario di test RAG utilizza il 43% in meno di chiamate LLM, impiega il 40% in meno di tempo per la ricerca e la lettura e costa il 33% in meno.
L’ho verificato su 2026.10.0-latest (f18a1985b, include #44270) con Mistral mistral-large-2512 (dopo aver rimosso il mio workaround parallel_tool_calls: false):
- La riproduzione senza rete del mio primo post ora restituisce ogni chiamata: 2 su 2 e 3 su 3 in un unico chunk, anche con
partial_tool_callse tramiteEndpoints::Mistral#decode_chunk. Una chiamata per chunk funziona ancora. (Lo script ora ha bisogno di un.flatten, poichéprocess_streamed_messagepuò restituire un array.) - Con un agente RAG reale e senza workaround, Mistral ha inviato 4 letture parallele in un unico chunk e tutte e 4 sono state eseguite. In 14 esecuzioni dell’agente, ogni chiamata allo strumento richiesta è stata eseguita.
Grazie ancora!