즉, 월 20달러에서 100달러로 올렸을 때 하루 3만 개의 AI 크레딧을 받게 되는데, 이 기능을 사용하는 20명의 사용자만으로도 내 크레딧이 모두 소진된다는 뜻인가요? 토론 사이트에서 이미 보편화된 기능이 된 이 기능에 대해, 이는 현실적인 비즈니스 모델이 아니라고 생각합니다.
말씀하신 내용 잘 들었습니다. 처음에는 크레딧 한도가 다소 제한적으로 느껴질 수 있다는 점을 충분히 이해합니다.
상황을 좀 더 객관적으로 바라볼 수 있도록 몇 가지 참고 사항을 드리고자 합니다:
크레딧은 매일 충전되므로, 24시간마다 새로운 크레딧(Starter 플랜의 경우 15K, Pro 플랜의 경우 30K)을 사용할 수 있습니다. 실제로는 캐싱 기능이 적용되어 있어, 같은 날 20명의 다른 사용자가 모두 요약 기능을 요청하는 경우는 매우 드뭅니다. 특정 주제가 한 번 요약되면, 이후 사용자들은 추가 크레딧을 소모하지 않고 캐시된 버전을 볼 수 있습니다. 하지만 만약 실제로 매일 요약 사용량이 그 정도 수준이라면, 오히려 좋은 신호입니다! 이는 포럼이 매우 활발하고 사용자들의 참여도가 높다는 것을 의미하기 때문입니다.
만약 사용량이 실제로 그렇게 높다면, 더 높은 등급의 플랜으로 전환할 시기가 왔을 수 있습니다. Business 등급(100k 크레딧)은 매우 활발한 커뮤니티를 여유롭게 지원할 수 있습니다. AI 기능 사용량이 높은 것은 현재 플랜의 다른 측면에서도 한계에 도달하고 있다는 신호일 수 있습니다.
등급 업그레이드를 고려하기 전에, 사용자별 할당량(quota) 설정도 도움이 될 수 있습니다. LLM 할당 시스템을 사용하면 사용자 간에 사용량을 더 지속 가능한 방식으로 분배할 수 있어, 소수의 적극적 사용자들이 하루 시작부터 모든 크레딧을 소진하는 상황을 방지할 수 있습니다.
이 방법으로도 도움이 되지 않는다면, 서드파티 LLM이 사용자의 용도에 더 적합할 수 있습니다. 직접 LLM 제공업체(OpenAI, Anthropic, Gemini 등)를 연결할 수 있습니다. 이 경우 별도로 비용을 지불하게 되지만, 더 많은 통제권을 가질 수 있고 대량 사용 시 더 경제적일 수 있습니다.
우리는 API 키나 별도 결제의 번거로움 없이 대부분의 고객에게 잘 작동하는 즉시 사용 가능한 옵션을 제공하려 노력하고 있습니다. 하지만 이를 반드시 사용해야 하는 것은 아닙니다. 이 기능은 도움을 주기 위한 것이며, 너무 제한적으로 느껴진다면 서드파티 제공업체로 전환하는 것도 완전히 타당하며, 우리는 이를 완전히 지원합니다.
호스팅 LLM 활성화
사용량 및 한도