الاستخدام لا يظهر LLM

كما يشير العنوان، يفترض أن تساعدنا علامة التبويب “الاستخدام” في تحديد الميزات التي تستخدم أي نماذج. ولكن بدلاً من سرد أسماء نماذج LLM المهيأة، فإنها تسرد معرف النموذج.

انظر هذا المثال، يظهر الاستخدام تحت “جميع النماذج” → gemini-flash-latest و gemini-flash-lite-latest
image

إذا نظرت إلى صفحة “نماذج LLM المهيأة”، فلن أجد أي أسماء من هذا القبيل.

image

لذا الآن لست متأكدًا مما إذا كانت معلومات الاستخدام لكل نموذج LLM مهيأ أم لكل معرف نموذج LLM؟ الغرض من استخدام نماذج LLM مهيأة متعددة (باستخدام مفاتيح ومشاريع مختلفة) هو تجنب إرهاق نماذج LLM إذا كانت ميزة واحدة تتلقى الكثير من الطلبات أو الرموز، فإنها لا تعطل الميزات الأخرى.

يجب أن يكون ذلك عبر الميزات، ولكني أرى ما تبلغه هنا.

أنت تنشئ نماذج لغوية كبيرة مكررة تشير إلى نفس النموذج وتريد تفصيلها حسب ذلك. حالة استخدام مثيرة للاهتمام. ستكون الأعداد صحيحة ولكن قد لا تحصل على التقسيم الذي تريده.

سنفكر في طريقة لتنظيف هذا.

إعجاب واحد (1)