Discourse AI が多数の投稿とトピックを翻訳できない

[Falco]

@panrafal

私の調査結果に基づき、思考の労力を low に減らしたところ、すべての翻訳が完了しました。しかし、思考モデルが翻訳に使用されることを制限せず、ユーザーが失敗する理由を知らないため、このように出力トークンを制限することは逆効果だと考えます。

構造化された出力を使用すると、多くの小型モデルが翻訳中に無限ループに陥りやすくなるため、max_tokens を制限する必要がありました。

OpenAI Responses API の新しいバージョンでは、思考トークンをカウントせずに max_tokens が適用されるため、この問題は解決されると考えています。