pmusaraj님,
답변 주셔서 감사합니다. 명확히 하고자 하는 점은, 비용을 아끼려고 가장 저렴한 LLM 모델을 사용하려는 것이 아닙니다. 번역 기능이 실제로 어떻게 작동하는지 테스트하기 위해 사용하고 있습니다. 모델 선택은 핵심이 아닙니다.
핵심은 Mistral이 503 오류를 반환할 때, Discourse AI가 관리자에게 어떠한 알림도 주지 않고, 재시도 큐도 없이, 어떤 토픽이 놓졌는지 알 수 있는 방법도 없이 번역을 조용히 삭제한다는 점입니다. 제가 제기하는 UX 문제는 바로 이것이며, 토큰 비용이 아닙니다.
이것이 오픈소스 프로젝트이며, 님이 가능한 한 많이 도움을 주고 있다는 점은 잘 알고 있습니다. 감사드립니다. 하지만 "기대를 조정하세요"라는 말은 제품을 적극적으로 테스트하고, 버그를 보고하며, 개선에 도움을 주려는 사람에게 다소 실망스럽게 들립니다.
이 스레드를 계속 주시하며, 수정을 기대하겠습니다.
감사합니다,
Denis
1개의 좋아요