De door de automatiseringsplug-in gegenereerde AI-antwoorden geven de gebruiker geen melding wanneer het quotum is uitgeput; in plaats daarvan tonen ze een foutcode

Fout
,
1

Ik heb een automatisering ontwikkeld en geconfigureerd om te reageren met een kunstmatige intelligentie-persona, getriggerd door een specifieke tag.

We ondervinden een probleem: wanneer er een quotum is ingesteld voor de AI en deze is uitgeput, reageert deze niet automatisch. De foutcodes geven aan dat het quotum is uitgeput.

Het verwachte gedrag is: als het AI-quotum van de gebruiker is uitgeput, moet het systeem doorgaan met het genereren van antwoorden met behulp van een aangewezen gratis model (dit kan een algemene AI zijn die hiervoor is geselecteerd), maar het antwoord moet ook duidelijk aangeven dat de limiet voor het betaalde model is bereikt, of alternatief, de gebruiker informeren dat hun quotum is uitgeput en dat ze diensten zullen ontvangen van de gratis modellen totdat er een nieuw quotum is toegevoegd.

Met andere woorden, wanneer een vraag wordt gesteld aan een betaald model en het quotum is uitgeput, moet het systeem de gebruiker op de een of andere manier informeren. Wanneer dit gebeurt via een gepersonaliseerd bericht, wordt de gebruiker geĆÆnformeerd. Echter, wanneer antwoorden automatisch worden gegenereerd via de automatisering-plugin, verschijnt het ā€˜quotum uitgeputā€™-bericht in de foutlogs en blijft de gebruiker onwetend.

Error responding to: /t/xxxxxxxx-1758566266213/1500/1 in LlmPersonaTriage.handle : LlmQuotaUsage::QuotaExceededError : ..........

2

We hebben inderdaad betere manieren nodig om te laten zien dat quotaā€™s worden uitgeput, maar gezien de aard van asynchroon in automatiseringsroutines zal dat lastiger zijn.

1 like
3

Verwacht:

  • Gebruikers moeten onmiddellijk worden geĆÆnformeerd via meldingen, on-screen berichten of, bij voorkeur, via een modaal venster dat hen begeleidt naar het upgraden van hun pakket of het verkennen van alternatieve oplossingen. Dit zal helpen bij het verbeteren van de voordelen van deze community.
  • Voor integraties zoals automatisering kunnen realtime taken aan de wachtrij worden toegevoegd. Bijvoorbeeld, automatische antwoorden, API-interacties of andere use cases kunnen meldingen naar gebruikers activeren via de website, vooral wanneer foutmeldingen worden geretourneerd. Als marketingstrategie kunnen gebruikers via e-mail worden geĆÆnformeerd wanneer dergelijke gebeurtenissen plaatsvinden, en kunnen alternatieve pakketten of oplossingen via e-mail worden aangeboden.

Ik overweeg dit hardop; meer ervaren collegaā€™s hebben mogelijk betere suggesties met betrekking tot de haalbaarheid ervan.

Bedankt voor uw tijd, ik wens u succes <3