자동화 플러그인이 생성한 AI 응답은 쿼터가 소진되면 사용자에게 알림을 보내지 않고 오류 코드를 표시합니다

저는 특정 태그가 트리거가 될 때 인공지능 페르소나를 사용하여 응답하도록 자동화 기능을 개발하고 구성했습니다.

현재 다음과 같은 문제를 겪고 있습니다: AI에 할당된 쿼타가 설정되어 있고 그 쿼타가 소진되면, 시스템이 자동으로 응답하지 않습니다. 오류 코드는 쿼타가 소진되었음을 나타내고 있습니다.

기대되는 동작은 다음과 같습니다: 사용자의 AI 쿼타가 소진된 경우, 시스템은 지정한 무료 모델(이 목적을 위해 선택된 일반 AI일 수 있음)을 사용하여 응답 생성을 계속해야 합니다. 또한 응답에는 유료 모델의 한도에 도달했음을 명확히 표시하거나, 또는 쿼타가 소진되었음을 사용자에게 알리고 새로운 쿼타가 추가될 때까지 무료 모델로부터 서비스를 받게 된다는 내용을 통보해야 합니다.

즉, 유료 모델에 질문이 주어졌을 때 쿼타가 소진되면 시스템은 사용자에게 어떤 형태로든 이를 알리는 것이 좋습니다. 개인화된 메시지로 이를 수행할 경우 사용자는 통보를 받습니다. 그러나 자동화 플러그인을 통해 자동으로 응답이 생성될 때는 ‘쿼타 소진’ 메시지가 오류 로그에만 표시되고 사용자는 이를 알지 못합니다.

Error responding to: /t/xxxxxxxx-1758566266213/1500/1 in LlmPersonaTriage.handle : LlmQuotaUsage::QuotaExceededError : ..........

실제로 할당량이 소진되었음을 더 잘 알릴 수 있는 방법이 필요합니다. 하지만 자동화 루틴에서 비동기(async)의 특성상 이 작업은 더 까다로울 것입니다.

1개의 좋아요

기대 사항:

  • 사용자는 알림, 화면 메시지, 또는 이상적으로는 업그레이드 또는 대안 솔루션 탐색으로 유도하는 모달 창을 통해 즉시 정보를 받아야 합니다. 이는 커뮤니티의 이점을 향상시키는 데 도움이 됩니다.
  • 자동화 및 같은 통합의 경우, 실시간 작업을 큐에 추가할 수 있습니다. 예를 들어, 자동 응답, API 상호 작용 또는 다른 사용 사례가 오류 메시지를 반환할 때 웹사이트를 통해 사용자에게 알림을 트리거할 수 있습니다. 마케팅 전략의 일환으로, 이러한 이벤트가 발생하면 이메일로 사용자에게 알리고, 이메일을 통해 대안 패키지 또는 솔루션을 제안할 수 있습니다.

음성으로 이 내용을 고심하고 있습니다. 더 경험이 많은 동료들이 실현 가능성에 대해 더 나은 제안을 할 수 있을 것입니다.

시간 내어 주셔서 감사합니다. 성공을 기원합니다 <3