تكوين حصص استخدام LLM في Discourse AI

:bookmark: يشرح هذا الدليل كيفية تكوين وإدارة حصص الاستخدام لنماذج اللغة الكبيرة (LLMs) في Discourse AI.

:person_raising_hand: مستوى المستخدم المطلوب: مسؤول

ملخص

تسمح حصص استخدام نماذج اللغة الكبيرة للمسؤولين بالتحكم في استهلاك موارد الذكاء الاصطناعي ومراقبتها عن طريق تحديد حدود لاستخدام الرموز المميزة والتفاعلات لمجموعات المستخدمين المختلفة. يساعد هذا في الحفاظ على كفاءة التكلفة مع ضمان الوصول العادل إلى ميزات الذكاء الاصطناعي عبر مجتمعك.

التكوين

الوصول إلى إعدادات الحصة

  1. انتقل إلى لوحة تحكم المسؤول في موقعك
  2. انتقل إلى Admin > Plugins > Discourse AI > LLM Models
  3. حدد نموذج LLM الذي تريد تكوينه

إعداد الحصص

لكل مجموعة مستخدمين، يمكنك تكوين:

  • الحد الأقصى لاستخدام الرموز المميزة
  • و/أو الحد الأقصى لعدد تفاعلات الذكاء الاصطناعي
  • مدة فترة إعادة التعيين

خيارات المدة

اختر من فترات إعادة التعيين المحددة مسبقًا:

  • ساعة واحدة
  • 6 ساعات
  • 24 ساعة
  • 7 أيام
  • مدة مخصصة (محددة بالساعات)

مراقبة الاستخدام

عرض الإحصائيات

يمكن للمسؤولين مراقبة استهلاك الرموز المميزة واستهلاك الاستخدام على: https://SITENAME/admin/plugins/discourse-ai/ai-usage

  1. انتقل إلى Admin > Plugins > Discourse AI
  2. حدد علامة التبويب “Usage”
  3. قم بالتصفية حسب النطاق الزمني أو مجموعة المستخدمين أو المقاييس المحددة

تجربة المستخدم

إشعارات الحصة

يتلقى المستخدمون ملاحظات واضحة عند الاقتراب من حدود الحصة أو الوصول إليها:

  • حالة الاستخدام الحالية
  • الوقت المتبقي لإعادة تعيين الحصة التالية

رسائل الخطأ

عند تجاوز الحصة، يرى المستخدمون:

  • إشعار واضح بأن حد الحصة قد تم الوصول إليه
  • الوقت المتبقي حتى إعادة تعيين الحصة التالية

أفضل الممارسات

  1. ابدأ بحذر: ابدأ بحصص أقل وقم بالتعديل بناءً على أنماط الاستخدام الفعلية
  2. التخصيص على أساس المجموعة: قم بتعيين حصص مختلفة بناءً على احتياجات وأدوار مجموعات المستخدمين
  3. المراقبة المنتظمة: راجع أنماط الاستخدام لتحسين إعدادات الحصة
  4. التواصل الواضح: أبلغ المستخدمين بحدود الحصة وفترات إعادة التعيين

المشكلات الشائعة والحلول

المشكلة: يصل المستخدمون بشكل متكرر إلى الحدود

الحل: ضع في اعتبارك:

  • زيادة حدود الحصة لمجموعات معينة
  • تقليل فترة إعادة التعيين
  • إنشاء مجموعات متخصصة للمستخدمين ذوي الاستخدام العالي

المشكلة: الحصص غير المستخدمة

الحل:

  • اضبط الحدود لأسفل لتحسين تخصيص الموارد
  • راجع تعيينات المجموعات للتأكد من أن الحصص تتطابق مع احتياجات المستخدم

الأسئلة الشائعة

س: هل يمكن تعليق الحصص مؤقتًا؟
ج: نعم، يمكن للمسؤولين تعطيل تطبيق الحصص مؤقتًا لمجموعات معينة أو للموقع بأكمله.

س: هل يتم ترحيل الحصص غير المستخدمة؟
ج: لا، يتم إعادة تعيين الحصص بالكامل في نهاية كل فترة.

س: هل يمكن أن يكون لنماذج LLM المختلفة حصص مختلفة؟
ج: نعم، يمكن تكوين الحصص بشكل مستقل لكل LLM.

س: ماذا يحدث إذا تم تعيين حصص متعددة لـ LLM واحد؟
ج: الحصص مجموعة قائمة وتطبق لكل مستخدم. لكي يتجاوز المستخدم الحصة، يجب أن يتجاوز المستخدم الحصة في جميع المجموعات. هذا يعني أنه إذا أعطيت المسؤولين حصة مريحة جدًا ومستوى الثقة 1 حصة أكثر تقييدًا، فسيتم تطبيق حصة المسؤولين على المسؤولين.

س: ماذا يحدث إذا لم يتم تطبيق أي حصة على LLM؟
ج: لن يحدث شيء خاص، سيتم قياس جميع استخدامات LLM بدون عداد.

س: ماذا لو أردت حصصًا مختلفة لميزات مختلفة؟
ج: يسمح لك Discourse AI بتعريف نماذج LLM متعددة تتصل جميعها بنفس نقطة النهاية ويمكنها حتى إعادة استخدام المفاتيح، إذا كنت ترغب في منح حصة واحدة لمساعد الذكاء الاصطناعي وحصة أخرى لروبوت الذكاء الاصطناعي، فقم بتعريف نموذجي LLM.

موارد إضافية

10 إعجابات

يبدو أننا لا نستطيع منع مجموعة تمامًا من استخدام نموذج معين عن طريق تعيين الحصة إلى 0.

هل يمكنك إضافة دعم لهذا الإعداد؟

عذرًا، هل يمكنك التوسع هنا. كل ميزة أيضًا مقيدة بمجموعة، لذا يمكنك تمكين المساعد لمجموعة فرعية فقط من المستخدمين على أي حال.

أريد أن تقتصر بعض النماذج المميزة على مجموعات معينة فقط. سيكون من الرائع أن نتمكن من تعيين حصة نموذج إلى 0 لتعطيل الوصول لمجموعات معينة.

إعجابَين (2)

نعم، إنها مشكلة مثيرة للاهتمام. سأفكر في الأمر.

قد ترغب في أن يستخدم المساعد GPT4o لـ “المجموعة الخاصة 1” و GPT4o mini لبقية الأشخاص.

في الوقت الحالي، نسمح لك فقط بتحديد نموذج واحد للمساعد الذكي، لذا سنحتاج إلى تغيير كبير لدعم ذلك.

@Falco / @Saif / @awesomerobot، شيء للتفكير فيه.

5 إعجابات