제 경험은 그 반대입니다. 맥락을 이해해야 하는 일련의 지침을 따르도록 해야 하는데, 비추론 모델은 이를 무시하거나 잘못된 상황에서 적용합니다. 저는 이 방식으로 전체 애플리케이션(3,000개 이상의 문자열)을 번역했는데, 추론 모델이 훨씬 더 나은 결과를 보여주었습니다.
제 조사 결과에 따라 추론 노력을 low로 낮추고 모든 번역을 처리했습니다. 하지만 저는 출력을 그렇게 제한하는 것이 역효과라고 생각합니다. 추론 모델이 번역에서 사용되지 못하도록 제한된 것이 아니며, 사용자가 실패 이유가 무엇인지 알 수 없기 때문입니다.
해결책은 LLM에 추론이 활성화된 경우 배수를 2로 더 곱하는 것일 수도 있습니다. 또는 배수를 설정 옵션으로 노출하는 것도 방법입니다.