Discourse AI: Mistral 스트리밍에서 병렬 도구 호출이 조용히 무시됨

빠른 수정을 해준 @sam 과 빠른 답변을 해준 @zogstrip 에게 진심으로 감사드립니다.

모든 기능이 기대대로 작동합니다 :+1: 결과도 훌륭합니다. 이제 에이전트가 1개의 응답으로 여러 읽기 요청을 보낼 수 있게 되어, 제 RAG 테스트 시나리오에서 LLM 호출이 43% 감소했고, 검색 및 읽기에 40% 적은 시간이 소요되며, 비용도 33% 절감되었습니다.

2026.10.0-latest (f18a1985b, #44270 포함) 환경에서 Mistral mistral-large-2512 모델을 사용하여 검증했습니다 (제 parallel_tool_calls: false 우회 조치를 제거한 후):

  • 첫 번째 게시글의 네트워크 없이 재현 가능한 스크립트는 이제 모든 호출을 반환합니다. 1개 청크에서 2개 중 2개, 3개 중 3개의 호출이 반환되었으며, partial_tool_calls 및 Endpoints::Mistral#decode_chunk를 통해서도 동일하게 작동합니다. 청크당 1개의 호출도 여전히 정상 작동합니다. (process_streamed_message가 배열을 반환할 수 있으므로 스크립트에 이제 .flatten이 필요합니다.)
  • 실제 RAG 에이전트를 우회 조치 없이 사용할 때, Mistral은 단일 청크로 4개의 병렬 읽기 요청을 보냈고, 4개 모두 실행되었습니다. 14번의 에이전트 실행 동안 요청된 모든 도구 호출이 실행되었습니다.

다시 한번 감사드립니다!

2개의 좋아요