Мой опыт совершенно противоположен. У меня есть набор инструкций, которые должны выполняться и требуют понимания контекста; модели без мышления либо игнорируют их, либо применяют в неподходящих ситуациях. Я только что перевёл целое приложение именно так — более 3000 строк, и модели с рассуждением дали гораздо лучшие результаты.
Исходя из своих выводов, я снизил уровень мышления до low, и все переводы были успешно выполнены. Однако я считаю, что такое ограничение выходных токенов контрпродуктивно, поскольку модели с мышлением не ограничены в использовании для переводов, а пользователи не понимают, почему возникает сбой.
Решение может быть столь же простым, как увеличение коэффициента в два раза, если у LLM включено мышление. Или же можно вывести этот коэффициент в виде параметра конфигурации.