한도에 도달한 모델은 흐리게 표시되고, 선택 시 구독을 업그레이드할 수 있어야 합니다

알다시피, 모델에 한도를 설정하더라도 사용자가 한도를 소진한 후에도 질문을 계속할 수 있으며, 이 경우 한도에 도달했다는 메시지만 표시됩니다. 이는 사용자에게 좌절감을 주며 시간 낭비이기도 합니다.

제 제안은 다음과 같습니다. 모델 목록은 그대로 유지하되, 사용자가 한도에 도달한 경우 해당 모델은 흐릿한 색상으로 표시되도록 하는 것입니다. 사용자가 해당 모델을 선택하면 구독 업그레이드를 유도하는 모달 창이 자동으로 표시될 수 있습니다. 이것이 사용량 모델이 작동해야 하는 본질적인 방식입니다. 한도에 도달한 사용자는 질문을 하는 동안, 또는 그 전에 한도를 늘린 후 질문을 처리받을 수 있습니다. 이는 빠르고 편리할 것입니다.

또한, 모델 이름 옆에 사용자의 남은 한도를 표시할 수 있다면 더 좋겠습니다. (와, 정말 유용할 것 같네요!)

이러한 사항에 대해 어떻게 생각하시는지요?

4개의 좋아요

제 일반적인 생각은 대부분의 사용자에게 이 의사결정 매트릭스를 점차 제거하는 방향으로 나아가야 한다는 것입니다. 이상적인 상황에서는 사용자가 단순히 로봇과 대화만 하면, 그 이면의 엔진이 요청을 처리하는 데 가장 적합한 LLM을 알아서 찾아내야 합니다.

이는 일부 오버헤드를 추가하지만, 고급 사용자들이 아닌 일반 사용자들이 겪는 의사결정 마비를 제거하는 효과도 있습니다.

이 맥락에서 "구독 업그레이드"란 무엇인가요? 더 높은 한도를 얻기 위해 Discourse 인스턴스의 구독을 업그레이드하라는 뜻인가요, 아니면 LLM을 재구성하도록 관리자에게 권고하라는 뜻인가요?

여기에는 상당한 가정들이 내포되어 있습니다.

3개의 좋아요