GPU가 유휴 상태일 때 월 최소 5달러의 추가 전기료가 발생하지만, 실제로는 이미 다른 용도로 LLM을 실행하고 있으므로 Discourse에 대한 추가 비용은 제로입니다.
그러나 작은 포럼이나 사용량이 낮은 경우에는 LLM을 서비스 형태로 사용하는 것이 더 경제적이 undoubtedly 될 것입니다. 다만 Discourse의 호스팅 서비스 규모를 고려하면, 내부에서 직접 호스팅하는 것이 더 합리적일 수 있으며(이 분야에 대한 지식을 갖추는 것이 향후 중요해질 가능성이 높으므로), 그렇게 하는 것이 더 나을 것 같습니다.