لاستخدام ميزات معينة في Discourse AI، يُطلب من المستخدمين استخدام مزود نموذج لغوي كبير (LLM). يرجى الاطلاع على كل ميزة من ميزات الذكاء الاصطناعي لتحديد نماذج LLM المتوافقة.
إذا كانت التكلفة مصدر قلق كبير، فإن إحدى الطرق لمواجهة ذلك هي تعيين حدود الاستخدام مباشرة من الموفر واستخدام ميزانية شهرية. خيار آخر هو السماح فقط لمستخدمين ومجموعات محددة بالوصول إلى ميزات الذكاء الاصطناعي.
هناك العديد من العوامل المتغيرة التي يجب مراعاتها عند حساب تكاليف استخدام نماذج LLM.
عرض مبسط سيكون…
- نموذج LLM والتسعير → تحديد نموذج LLM المحدد الذي تخطط لاستخدامه والعثور على أحدث تفاصيل التسعير الخاصة به للرموز المدخلة والمخرجة.
- الرموز المدخلة → متوسط طول استعلاماتك المدخلة بالرموز.
- الرموز المخرجة → هذه هي استجابات النموذج بالرموز.
الآن دعنا نمر عبر مثال استخدام روبوت الذكاء الاصطناعي هنا على Meta.
تم إجراء الكثير من التبسيطات أثناء هذا الحساب مثل استخدام الرموز، والمستخدمين الذين يستخدمون روبوت الذكاء الاصطناعي، ومتوسط عدد الطلبات. يجب أخذ هذه الأرقام كـ إرشادات عامة فقط. خاصة وأننا نجري الكثير من التجارب مع روبوت الذكاء الاصطناعي.
-
استخدام مستكشف البيانات لفهم متوسط الرموز المطلوبة/المستجابة وجميع البيانات الأخرى هنا.
-
في المتوسط، كانت رموز الاستجابة أكبر بـ 3 إلى 5 مرات من رموز الطلب [1]
-
افترض أن متوسط رمز طلب المستخدم هو 85، وهو ما يعادل أقل من فقرة [2]
-
افترض أن متوسط رمز الاستجابة هو 85 × 4 = 340 رمزًا، أي ما يعادل 3 فقرات.
-
باستخدام GPT-4 Turbo من OpenAI، تبلغ تكلفة الرموز المدخلة 10 دولارات / 1 مليون رمز = 0.00001 دولار / رمز × 85 رمزًا = 0.00085 دولار للمدخلات.
-
بالنسبة لرموز المخرجات، ستكون 30.00 دولار / 1 مليون رمز = 0.00003 دولار / رمز × 340 رمزًا = 0.0102 دولار للمخرجات.
-
التكلفة الإجمالية لكل طلب هي 0.00085 دولار + 0.0102 دولار = 0.01105 دولار.
-
خلال فبراير 2024، كان حوالي 600 مستخدم يستخدمون روبوت الذكاء الاصطناعي، مما أدى إلى متوسط 10 طلبات لذلك الشهر. الآن افترض أن هذه الأرقام متسقة مع مجتمعك.
-
هذا يعني أنه لشهر فبراير، ستكون تكلفة روبوت الذكاء الاصطناعي 0.01105 دولار × 600 مستخدم × 10 طلبات = 66 دولارًا.
-
تسريع هذا إلى تكلفة تشغيل روبوت الذكاء الاصطناعي لمدة عام، سيكون 66 دولارًا × 12 = 792 دولارًا سنويًا لتشغيل GPT-4 Turbo كنموذج LLM الذي تختاره.
الآن مع GPT-4o يمكنك تقليل تلك التكلفة النهائية إلى النصف!
تقدير بالنظر إلى مجتمع OpenAI واستجابتنا لنسبة رموز الطلب ↩︎
كم عدد الكلمات التي تساوي 85 رمزًا؟ أثناء النظر إلى متوسط استخدام رموز طلبات المستخدم، وجدت أرقامًا منخفضة تصل إلى 20 إلى أكثر من 100. أردت أن ألخص أنه كانت هناك طلبات أكثر تقترب من 100 والافتراض هناك هو أن تلك الطلبات قد تكون أقرب إلى الجمل المكتملة وتشير إلى استعلامات مدروسة جيدًا مع الكثير من الأسئلة المطروحة على الروبوت ↩︎