Discourse를 v2026.8.0으로 업데이트한 후, thinking 기능이 활성화된 Gemini Flash Lite LLM을 사용하려고 하면 400 오류가 발생합니다.
아래는 업그레이드 전에는 정상 작동했던 설정입니다.
현재 실행하면 다음과 같은 오류가 발생합니다.
Non-streaming request failed: { “error”: { “code”: 400, “message”: “Request contains an invalid argument.”, “status”: “INVALID_ARGUMENT” } }
thinking을 비활성화하면 정상 작동합니다.
thinking을 활성화하면, 제가 작년에 보고했던 회귀 버그로 되돌아갑니다. thinking에 사용되는 토큰 수를 하드코딩해야 하는 것 같으며, 0이나 -1은 물론 선택 사항이라고 되어 있음에도 불구하고 아무것도 입력하지 않는 경우조차 허용되지 않습니다.
Flash Lite 모델에만 문제가 발생하는 것 같고, Flash 모델에는 문제가 없습니다. (Flash 모델은 사고 토큰을 지정하지 않고 사고 기능을 비활성화한 상태에서도 정상적으로 작동합니다.)
Pro 모델은 완전히 깨져서 업그레이드 후 전혀 작동하지 않습니다. 내부 서버 오류가 발생합니다.
왜 레거시 API를 사용하고 있나요? 비레거시 API로 전환하고 gemini-3.5-flash-lite를 사용할 수 있을까요?
이것은 업그레이드입니다, Sam. Gemini가 모델과 API를 쏟아내는 속도를 따라갈 수 없어요. 목표는 Discourse를 안정적으로 유지하고, 작동하는 부분에 최소한의 변경만 적용하는 것입니다.
Google이 “레거시” 모델 엔드포인트를 수년 후에나 중단할 것이라고 생각합니다. 너무 많은 앱과 시스템이 이 엔드포인트를 사용 중이며, 어떤 기업과 마찬가지로 프로덕션 환경에 배포된 기능은 몇 달 안에 바로 비추천(deprecate)하지 않거든요. 마찬가지로, Discourse에서 작동하고 있는 기능들은 (Discourse 측에서 제거할 때까지) 계속 작동할 것으로 기대합니다. 모델 엔드포인트가 Discourse에서 지원된다면, 업그레이드 전과 동일한 방식으로 계속 작동해야 합니다.
또한 latest 모델 ID가 상호작용(interaction) 엔드포인트에서 지원되지 않는다는 점도 언급했습니다. 이 사실 자체가 큰 문제이며 상당한 관리적 부담을 초래합니다.
예를 들어 3.5 엔드포인트를 설정해 두고 6개월 후 Google이 이를 종료한다고 가정해 보겠습니다. 3.5가 종료되었다는 사실을 누가 알려주나요? Discourse도 아니고, Gemini도 아닙니다(왜냐하면 Gemini는 Discourse를 통해 실행되므로). 그 결과, 갑자기 어느 날 모든 기능이 멈추고 이제 무슨 일이 일어났는지 파악하느라 고생하게 됩니다.
