OpenAI를 사용하여 Discourse 포럼에 기능을 추가하는 분들을 위한 질문입니다: API 액세스에 얼마나 지출하고 계신가요?
호스팅 비용 대비 비율로 파악하는 것이 도움이 될 수 있습니다. 포럼 규모가 클수록 호스팅 비용이 더 많이 들지만, API 사용량도 더 많을 테니까요. 반면, 작은 포럼의 경우 두 항목 모두 비용이 적게 듭니다.
이것은 저의 단순한 호기심에서 비롯된 질문이지만, OpenAI 기능을 추가하는 것을 고려하고 있는 분들에게 유용한 참고가 될 수 있을 것입니다.
오늘 밤 AI를 추가하는 방법에 대해 살펴보기 시작했습니다. 제가 무언가를 놓치고 있는 게 아니라면 (그럴 가능성이 꽤 높지만) 소규모 포럼이 OpenAI를 1k 토큰당 입력 $0.01, 출력 $0.03으로 사용할 때의 비용은 꽤 사소해 보입니다. 현재 제가 막혀 있는 부분은 계좌에 결제 정보가 없는데 어떻게 요금이 청구되는지입니다. 분명 무언가를 놓치고 있는 것 같습니다.
플러그인을 설치해서 깨달음에 얼마나 가까이 다가갈 수 있는지 한번 확인해 보겠습니다.
매일 Discourse AI를 사용하는 사용자가 8명뿐인 아주 작은 포럼입니다. 채팅봇은 대략 20명 정도가 사용하죠. DAI는 매일 이미지를 몇 장 생성하고, 긴 텍스트를 5개 정도 작성하며, 채팅봇은 짧은 질문에 답합니다. DAI는 주로 3.5-turbo를 사용하다가 지금은 4 turbo를 쓰고 있고, 채팅봇은 3.5-turbo-16k 또는 현재 exa t 모델로 알려진 모델을 사용하고 있습니다.
현재 제 비용은 월 50달러에 꽤 근접합니다. VPS 비용과 비교해 보면 대략 24유로, S3는 15달러 정도입니다. 이 관점에서 보면 OpenAI는 꽤 비싸고, 활성 사용자에게 GPT 모델을 도입한 것은 제 실수였습니다 
정말, 정말, 정말로 그룹별로 어떤 모델을 사용할 수 있는지에 대한 제한 기능이 필요합니다.
더 큰 커뮤니티의 경우, 누구나 자유롭게 GPT를 사용할 수 있게 하면 비용이 정말로 많이 들 수 있습니다.
현재 저는 제 데이터를 검토하고 있습니다. 약 8,000명의 사용자를 보유한 활성 포럼을 운영하고 있으며, 이 중 약 2,000~3,000명이 매일 활동합니다. 저는 8월에 이 기능을 도입했으며 24.00달러를 지출했지만, 그래프에 따르면 실제로는 1.07달러만 사용한 것으로 나타납니다.
그래서 아무도 사용하지 않는 거예요. 왜일까요? 추측해 볼 수 있을까요?
요약과 필터 등 모든 것이 제대로 설정되어 있는지 확신이 서지 않습니다. 제가 직접 포럼에 소개하고 테스트까지 해봤는데, 결국 저 혼자만 사용하는 것 같네요. 하지만 제게는 이걸 써서 돈을 아끼는 것이 큰 도움이 될 거예요 
신규 계정에는 약 5달러 상당의 "무료 크레딧"이 제공됩니다.
감사합니다. 꽤 오래 쓸 수 있을 것 같아요. 
조금 둘러보면서 알아서 해결해 볼게요. 중요한 부분이 아니라서 다른 분들에게 불편을 주지 않을 거예요.
여러분이 이 변경 사항에 관심이 있을 것 같습니다. 봇 모델과 유형을 그룹별로 다르게 설정할 수 있도록 하여 비용을 관리하고, 봇 접근 권한을 수익화하는 데 도움이 되도록 했습니다.
https://meta.discourse.org/t/discourse-chatbot-now-smarter-than-chatgpt/256652/687?u=merefield
훌륭한 제안을 해 주신 @Aizada_M 님께 감사드립니다.
