Discourse AI: تُهمل استدعاءات الأدوات المتوازية بصمت مع Mistral (بثّ)

شكرًا جزيلًا @sam للإصلاح السريع، و@zogstrip للرد السريع

كل شيء يعمل كما هو متوقع :+1: والنتيجة رائعة: الآن، وبما أن الوكيل (Agent) يمكنه طلب عدة عمليات قراءة في استجابة واحدة، يستخدم سيناريو اختبار RAG الخاص بي عددًا أقل من استدعاءات LLM بنسبة 43%، وقضى وقتًا أقل بنسبة 40% في البحث والقراءة، وارتفعت الكلفة بنسبة 33%.

لقد قمت بالتحقق من ذلك على 2026.10.0-latest (f18a1985b، يتضمن #44270) باستخدام Mistral mistral-large-2512 (بعد إزالة حلّي المؤقت parallel_tool_calls: false):

  • يعيد التكرار بدون شبكة من منشوري الأول الآن كل استدعاء: 2 من 2 و3 من 3 في دفعة واحدة، وكذلك مع partial_tool_calls وعبر Endpoints::Mistral#decode_chunk. لا يزال استدعاء واحد لكل دفعة يعمل. (يحتاج السكربت الآن إلى .flatten، لأن process_streamed_message يمكن أن تعيد مصفوفة.)
  • مع وكيل RAG حقيقي وبدون حل مؤقت، أرسل Mistral 4 عمليات قراءة متوازية في دفعة واحدة، وتم تنفيذ جميعها الـ4. على مدار 14 تشغيلًا للوكيل، تم تنفيذ كل استدعاء أداة مطلوب.

شكرًا مرة أخرى!

إعجابَين (2)