Las respuestas de IA generadas por el plugin de automatización no notifican al usuario cuando se agota la cuota; en su lugar, muestran un código de error.

Error
,
1

He desarrollado una automatización y la he configurado para que responda utilizando una persona de inteligencia artificial activada por una etiqueta específica.

Estamos enfrentando un problema: cuando se establece una cuota para la IA y esta se agota, no responde automáticamente. Los códigos de error indican que la cuota se ha agotado.

El comportamiento esperado es: si la cuota de IA del usuario se agota, el sistema debe continuar generando respuestas utilizando un modelo gratuito designado (que podría ser una IA general seleccionada para este propósito), pero la respuesta también debe indicar claramente que se ha alcanzado el límite para el modelo de pago, o alternativamente, notificar al usuario que su cuota se ha agotado y que recibirá servicios de los modelos gratuitos hasta que se agregue una nueva cuota.

En otras palabras, cuando se hace una pregunta a un modelo de pago y la cuota se agota, el sistema debe informar al usuario de alguna manera. Cuando esto se hace a través de un mensaje personalizado, se informa al usuario. Sin embargo, cuando las respuestas se generan automáticamente a través del plugin de automatización, aparece el mensaje “cuota agotada” en los registros de errores y el usuario permanece desinformado.

Error al responder a: /t/xxxxxxxx-1758566266213/1500/1 en LlmPersonaTriage.handle : LlmQuotaUsage::QuotaExceededError : ..........

2

Efectivamente, necesitamos mejores formas de exponer las cuotas agotadas, pero dada la naturaleza asíncrona de las rutinas de automatización, eso será más complicado.

1 me gusta
3

Esperado:

  • Se debe informar a los usuarios de inmediato a través de notificaciones, mensajes en pantalla o, idealmente, mediante una ventana modal que los guíe a actualizar su paquete o explorar soluciones alternativas. Esto ayudará a mejorar los beneficios de esta comunidad.
  • Para integraciones como la automatización, se pueden agregar tareas en tiempo real a la cola. Por ejemplo, las respuestas automáticas, las interacciones de la API u otros casos de uso pueden activar notificaciones a los usuarios a través del sitio web, especialmente cuando se devuelven mensajes de error. Como estrategia de marketing, se puede informar a los usuarios por correo electrónico cuando ocurran dichos eventos, y se pueden ofrecer paquetes o soluciones alternativas a través del correo electrónico.

Estoy reflexionando sobre esto en voz alta; colegas más experimentados pueden tener mejores sugerencias con respecto a su viabilidad.

Gracias por su tiempo, les deseo éxito <3