Discourse 챗봇 🤖

[merefield (Robert)]

Chatbot 1.3 버전이 출시되었습니다

• 기능 추가: 토큰별로 할당량(quota)을 관리할 수 있는 옵션 추가
  • 새로운 설정 chatbot_quota_basis를 통해 이를 활성화할 수 있으며, 그렇지 않으면 기존처럼 쿼리 수 기준으로 관리됩니다.
  • 기본 설정에서의 유일한 차이는 할당량이 시작 최대 할당량(여전히 동일한 신뢰 수준 설정에 기반함)에서 _내려_오는 방식으로 계산된다는 점입니다.
• 기능 추가: DALL-E와 같은 API 호출 비용을 사용자 사용량에 포함
  • 토큰 기준에서만 적용
  • API 기능의 토큰 비용을 조절하기 위해 세밀하게 조정할 수 있는 다양한 새로운 설정 추가
• 기능 추가: 사용자가 남은 할당량을 확인할 수 있는 기능 추가

FEATURE: add option to manage quotas by token (#124)

Chatbot은 항상 사용량 할당량 강제 기능을 포함하고 있었습니다.

오늘 이 기능이 더 정교해졌습니다!

Chatbot은 이제 토큰별 사용량에 대한 할당량을 추적하고 강제할 수 있습니다.

API 호출에 비용을 부과하여 과도한 사용을 억제할 수 있으므로, 예를 들어 이미지 생성에 대한 액세스를 제공해도 덜 걱정할 수 있습니다.

토큰 추적은 선택 사항(opt-in)입니다. 토큰 추적 방식으로 변경하는 경우, 값이 몇 배(orders of magnitude) 더 커야 하므로 각 신뢰 수준의 할당량을 늘리는 것이 중요합니다. 실험해 보세요.

그러나 쿼리별 추적 방식은 약간 변경되었습니다. 이제 허용된 최대 쿼리 수로 리셋되어 _0_까지 _내려_오는 방식으로 계산됩니다.

모든 사용자가 풀 할당량(full quota)으로 시작하도록 전역 할당량 리셋 작업을 한 번 실행하는 것을 고려해 볼 수 있습니다. 이것은 일회성 작업입니다!

/sidekiq/scheduler의 sidekiq에서:

트리거 버튼을 누르세요.

어떤 경우든 이제 사용자는 남은 할당량이 얼마인지 물을 수 있습니다:

참고: 알려진 문제: 리셋 작업이 실행되기 전에 이 질문이 처음으로 묻히는 경우, 답변이 다소 이상할 수 있습니다! 리셋 작업이 실행되었든 아니든, 두 번째로 이 질문을 물으면 정상적으로 작동해야 합니다.