自动化插件生成的AI响应在配额耗尽时不会通知用户,而是显示错误代码

我已经开发了一个自动化程序,并将其配置为使用由特定标签触发的人工智能角色进行响应。

我们遇到了一个问题:当为人工智能设置了配额并且该配额已用尽时,它不会自动响应。错误代码表明配额已被耗尽。

预期行为是:如果用户的AI配额已用尽,系统应继续使用指定的免费模型(可以是为此目的选择的通用AI)生成响应,但响应也应清楚地表明付费模型的限制已达到,或者另外通知用户其配额已用尽,并且他们将获得免费模型提供的服务,直到添加新配额为止。

换句话说,当向付费模型提问并且配额已用尽时,系统应以某种方式告知用户。当通过个性化消息进行此操作时,用户会收到通知。但是,当通过自动化插件自动生成响应时,“配额已用尽”消息会出现在错误日志中,而用户仍然不知情。

Error responding to: /t/xxxxxxxx-1758566266213/1500/1 in LlmPersonaTriage.handle : LlmQuotaUsage::QuotaExceededError : ..........

我们确实需要更好的方法来暴露配额耗尽的情况,但考虑到自动化例程中异步的性质,这将更加棘手。

1 个赞

预期:

  • 应立即通过通知、屏幕消息或最好是模态窗口告知用户,引导他们升级套餐或探索其他解决方案。这将有助于增强此社区的优势。
  • 对于自动化等集成,可以将实时任务添加到队列中。例如,自动响应、API 交互或其他用例可以通过网站触发用户通知,尤其是在返回错误消息时。作为营销策略,可以在发生此类事件时通过电子邮件告知用户,并通过电子邮件提供替代套餐或解决方案。

我正在口头考虑这一点;更有经验的同事可能对可行性有更好的建议。

感谢您的时间,祝您成功 <3