Discourse AI: llamadas de herramientas en paralelo se descartan silenciosamente con Mistral (streaming)

Muchas gracias a @sam por la rápida solución y a @zogstrip por la rápida respuesta (repply).

Todo funciona como se esperaba :+1: y el resultado es excelente: ahora que el agente puede solicitar varias lecturas en una sola respuesta, mi escenario de prueba de RAG utiliza un 43% menos de llamadas a la LLM, ha dedicado un 40% menos de tiempo a buscar y leer, y ha reducido los costos en un 33%.

Lo he verificado en 2026.10.0-latest (f18a1985b, incluye #44270) con Mistral mistral-large-2512 (después de eliminar mi solución temporal parallel_tool_calls: false):

  • La reproducción sin red de mi primera publicación ahora devuelve todas las llamadas: 2 de 2 y 3 de 3 en un solo bloque, también con partial_tool_calls y a través de Endpoints::Mistral#decode_chunk. Una llamada por bloque sigue funcionando. (El script ahora necesita un .flatten, ya que process_streamed_message puede devolver un array.)
  • Con un agente RAG real y sin solución temporal, Mistral envió 4 lecturas paralelas en un solo bloque, y se ejecutaron las 4. En 14 ejecuciones del agente, se ejecutó cada llamada a la herramienta solicitada.

¡Gracias de nuevo!

2 Me gusta