As respostas de IA geradas pelo plugin de automação não notificam o usuário quando a cota é esgotada; em vez disso, exibem um código de erro

Desenvolvi uma automação e a configurei para responder usando uma persona de inteligência artificial acionada por uma tag específica.

Estamos enfrentando um problema: quando uma cota é definida para a IA e ela se esgota, ela não responde automaticamente. Os códigos de erro indicam que a cota foi esgotada.

O comportamento esperado é: se a cota de IA do usuário se esgotar, o sistema deve continuar a gerar respostas usando um modelo gratuito designado (que pode ser uma IA geral selecionada para esse fim), mas a resposta também deve indicar claramente que o limite para o modelo pago foi atingido, ou, alternativamente, notificar o usuário que sua cota se esgotou e que ele receberá serviços dos modelos gratuitos até que uma nova cota seja adicionada.

Em outras palavras, quando uma pergunta é feita a um modelo pago e a cota se esgota, o sistema deve informar o usuário de alguma forma. Quando isso é feito por meio de uma mensagem personalizada, o usuário é informado. No entanto, quando as respostas são geradas automaticamente por meio do plugin de automação, a mensagem “cota esgotada” aparece nos logs de erro, e o usuário permanece desinformado.

Error responding to: /t/xxxxxxxx-1758566266213/1500/1 in LlmPersonaTriage.handle : LlmQuotaUsage::QuotaExceededError : ..........

Precisamos sim de melhores formas de expor cotas que estão sendo esgotadas, mas dada a natureza assíncrona em rotinas de automação, isso será mais complicado.

1 curtida

Esperado:

  • Os usuários devem ser informados imediatamente por meio de notificações, mensagens na tela ou, idealmente, por meio de uma janela modal que os guie para atualizar seu pacote ou explorar soluções alternativas. Isso ajudará a aprimorar os benefícios desta comunidade.
  • Para integrações como automação, tarefas em tempo real podem ser adicionadas à fila. Por exemplo, respostas automáticas, interações de API ou outros casos de uso podem acionar notificações para os usuários por meio do site, especialmente quando mensagens de erro são retornadas. Como estratégia de marketing, os usuários podem ser informados por e-mail quando tais eventos ocorrerem, e pacotes ou soluções alternativas podem ser oferecidos por e-mail.

Estou pensando nisso em voz alta; colegas mais experientes podem ter melhores sugestões quanto à sua viabilidade.

Obrigado pelo seu tempo, desejo-lhe sucesso <3