الذكاء الاصطناعي يتجاوز عتبات رموز LLM بشكل عشوائي وغير متوقع

هل تخلط بين رموز الطلب ورموز الاستجابة؟

الخطأ 413 يعني أن طلبك كان كبيرًا جدًا، وليس الاستجابة المطلوبة.

لمعالجة ذلك، تحتاج إلى ضبط إعدادات نافذة السياق الخاصة بنموذج اللغة الكبير (LLM)، لكنني أحذّر من أن 8 آلاف رمز أصبحت صغيرة جدًا في الوقت الحالي. قد يعمل ذلك لبعض الميزات، لكنه ليس شيئًا نستخدمه كثيرًا في عصر نماذج اللغة الكبيرة التي تتعامل مع نوافذ سياق طويلة تصل إلى مليون رمز. يمكنني تشغيل نافذة سياق بـ 256 ألف رمز على حاسوب مكتبي باستخدام نموذج أفضل بكثير من النموذج الذي تستخدمه.