شكرًا جزيلًا @sam للإصلاح السريع، و@zogstrip للرد السريع
كل شيء يعمل كما هو متوقع
والنتيجة رائعة: الآن، وبما أن الوكيل (Agent) يمكنه طلب عدة عمليات قراءة في استجابة واحدة، يستخدم سيناريو اختبار RAG الخاص بي عددًا أقل من استدعاءات LLM بنسبة 43%، وقضى وقتًا أقل بنسبة 40% في البحث والقراءة، وارتفعت الكلفة بنسبة 33%.
لقد قمت بالتحقق من ذلك على 2026.10.0-latest (f18a1985b، يتضمن #44270) باستخدام Mistral mistral-large-2512 (بعد إزالة حلّي المؤقت parallel_tool_calls: false):
- يعيد التكرار بدون شبكة من منشوري الأول الآن كل استدعاء: 2 من 2 و3 من 3 في دفعة واحدة، وكذلك مع
partial_tool_callsوعبرEndpoints::Mistral#decode_chunk. لا يزال استدعاء واحد لكل دفعة يعمل. (يحتاج السكربت الآن إلى.flatten، لأنprocess_streamed_messageيمكن أن تعيد مصفوفة.) - مع وكيل RAG حقيقي وبدون حل مؤقت، أرسل Mistral 4 عمليات قراءة متوازية في دفعة واحدة، وتم تنفيذ جميعها الـ4. على مدار 14 تشغيلًا للوكيل، تم تنفيذ كل استدعاء أداة مطلوب.
شكرًا مرة أخرى!