Ответы ИИ, генерируемые плагином автоматизации, не уведомляют пользователя об исчерпании квоты; вместо этого отображается код ошибки

Я разработал автоматизацию и настроил её на ответ с использованием искусственного интеллекта, активируемого по определённому тегу.

Мы столкнулись с проблемой: когда для ИИ установлен лимит использования, и он исчерпан, автоматический ответ не отправляется. Коды ошибок указывают на истощение квоты.

Ожидаемое поведение: если квота пользователя на ИИ исчерпана, система должна продолжать генерировать ответы, используя выделенную бесплатную модель (которая может быть общим ИИ, выбранным для этой цели). При этом ответ должен явно указывать, что лимит для платной модели исчерпан, либо уведомлять пользователя о том, что его квота закончилась и услуги будут оказываться бесплатными моделями до пополнения квоты.

Иными словами, когда вопрос задаётся платной модели и квота исчерпана, система должна каким-то образом уведомить пользователя. При использовании персонализированного сообщения пользователь получает уведомление. Однако, когда ответы генерируются автоматически через плагин автоматизации, сообщение «квота исчерпана» появляется только в логах ошибок, а пользователь остаётся в неведении.

Ошибка при ответе на: /t/xxxxxxxx-1758566266213/1500/1 в LlmPersonaTriage.handle : LlmQuotaUsage::QuotaExceededError : ............

Нам действительно нужны более эффективные способы уведомления об исчерпании квот, но в силу асинхронной природы автоматизированных процедур это будет сложнее реализовать.

1 лайк

Ожидаемое:

  • Пользователи должны быть немедленно проинформированы через уведомления, сообщения на экране или, в идеале, через модальное окно, которое направляет их на обновление пакета или изучение альтернативных решений. Это поможет повысить пользу для этого сообщества.
  • Для интеграций, таких как автоматизация, в очередь можно добавлять задачи в реальном времени. Например, автоматические ответы, взаимодействия с API или другие сценарии использования могут запускать уведомления пользователям через веб-сайт, особенно при возврате сообщений об ошибках. В рамках маркетинговой стратегии пользователи могут быть проинформированы по электронной почте о таких событиях, а альтернативные пакеты или решения могут предлагаться через электронную почту.

Я размышляю об этом вслух; более опытные коллеги могут предложить лучшие идеи относительно его реализуемости.

Спасибо за ваше время, желаю вам успеха <3