פיתחתי אוטומציה והגדרתי אותה להגיב באמצעות פרסונת בינה מלאכותית המופעלת על ידי תג ספציפי.
אנו מתמודדים עם בעיה: כאשר נקבעת מכסה ל-AI והיא מנוצלת במלואה, היא אינה מגיבה אוטומטית. קודי השגיאה מצביעים על כך שהמכסה נוצלה.
ההתנהגות הצפויה היא: אם מכסת ה-AI של המשתמש מנוצלת במלואה, המערכת אמורה להמשיך ליצור תגובות באמצעות מודל חינמי ייעודי (שיכול להיות AI כללי שנבחר למטרה זו), אך התגובה אמורה גם לציין בבירור שהמגבלה עבור המודל בתשלום הגיעה, או לחילופין, להודיע למשתמש שמכסתו נוצלה והוא יקבל שירותים מהמודלים החינמיים עד שתתווסף מכסה חדשה.
במילים אחרות, כאשר נשאלת שאלה למודל בתשלום והמכסה מנוצלת במלואה, המערכת אמורה ליידע את המשתמש בצורה כלשהי. כאשר הדבר נעשה באמצעות הודעה מותאמת אישית, המשתמש מקבל מידע. עם זאת, כאשר תגובות נוצרות אוטומטית דרך תוסף האוטומציה, הודעת “המכסה נוצלה” מופיעה ביומני השגיאות, והמשתמש נותר ללא מידע.
Error responding to: /t/xxxxxxxx-1758566266213/1500/1 in LlmPersonaTriage.handle : LlmQuotaUsage::QuotaExceededError : ..........