이것은 확실히 통계적으로 획득한 비교는 아니지만, OpenAI GPT-4를 짧게 테스트해 본 결과, API 호출 횟수와 사용된 토큰 수를 기준으로 할 때 GPT-3.5 Turbo보다 3배 더 비쌌습니다. 그리고 GPT-4가 사용하는 토큰의 단가가 더 비싸기 때문에, 금전적으로 따지면 그 차이는 훨씬 더 큽니다.
그리고 GPT-4는 3.5 Turbo에 비해 아무런 이점을 제공하지 않았습니다.
그리고 면책 조항으로 말씀드리자면, 저는 핀란드어를 사용했습니다. 따라서 영어의 경우 결과가 다를 수 있습니다. 게다가 핀란드어를 사용할 때 어떤 AI든 채팅 용도로는 완전히 쓸모없지만, 그것은 완전히 별개의 문제입니다. 하지만 제 관점에서 보면, 소수 언어를 사용할 때 모든 채팅봇은 단순히 돈 낭비일 뿐입니다.
저는 우리가 같은 이야기를 하고 있다고 생각하지만, 안전을 위해 : 그것은 AI 회사와 관련된 문제이며, 나나 당신, 혹은 어떤 개발자도 그 사실을 바꿀 수 없습니다.
하지만 저는 우리가 모두 조금 더 우리가 돈을 얼마나 쓰고 있는지(남의 예산이 아니라 우리 주머니에서 나오는 돈이라면 )를 따져보고, 매우 주관적인 유용성과 돈 사이의 균형을 찾으려고 노력해야 한다고 생각합니다.
그리고 아니요, 제가 무슨 말을 하고 있는지 잘 모르겠습니다. 주로 모든 챗봇의 응답은 기본적으로 수백만 마리의 날아다니는 영어 buzz(양이 질보다 우선시되는 상황)에 기반하기 때문입니다. 상황이 변할 수 있습니다 - 더 좋아지거나 나빠질 수 있으며, 이는 AI가 어떤 소스를 사용할 수 있는지 교육하는 더 나은 도구가 있는지 여부에 달려 있습니다. 물론 우리는 그런 도구를 가지고 있지만, 그것은 토큰 가격보다 훨씬 더 큰 비용이 들 것입니다.
그리고 네, 그것은 작은 플레이어들의 두통입니다.
궁금한 점이 있습니다… 더 자유로운 프롬프트 편집을 통해 더 나은 비용/정확도 균형을 얻을 기회가 있을까요?
봇이 언급한 토큰 가격은 정확하지 않습니다. gpt-3.5-turbo-0125의 현재 가격은 입력 토큰 100만 개당 $0.50, 출력 토큰 100만 개당 $1.50입니다. 입력과 출력이 반반이라고 가정하면, 240만 토큰은 $2.40만 소요됩니다. gpt-4는 입력 $30/100만 토큰, 출력 $60/100만 토큰이며, 240만 토큰 기준으로 계산하면 $108가 됩니다.