حقن المطالبات لنماذج اللغات ذات السياق الطويل كبديل لـ RAG؟

نقطة عادلة، بالتأكيد.. لا توجد إجابة بسيطة في رأيي
أعتقد أن هذا يعتمد على حالة الاستخدام.
يعمل RAG بشكل جيد لبعض التطبيقات، ولكن بالنسبة لحالات أخرى محددة بشكل كبير (مثل أسئلة العملاء، المدفوعات، الطب، إلخ)، واجهت أنا وآخرون مشاكل في الحصول على دقة جيدة مع بحث RAG المتجه على مدار العام الماضي. أي أن الروبوت إما يفوّت الأشياء أو يختلقها (ضعف الاستدعاء، ضعف الدقة من حيث مصطلحات استرجاع المعلومات)، وهو ما وثقته ستانفورد وجوجل وغيرها جيدًا.
لذلك يطرح السؤال.. لماذا نلقي بمجموعة من الأجزاء على LLM إذا كان بإمكانه إعطاؤه المستودع بأكمله. على الأقل مع حقن السياق، عندما لا يكون LLM دقيقًا، لديك أشياء أقل لضبطها..
حسنًا، لن يعمل مع مكتبات المستندات / التعليمات البرمجية الواسعة.. ولكنه يبدو أنه يعمل بشكل رائع مع قواعد المحتوى الصغيرة والمتوسطة الحجم حتى الآن… أعمل على مشروع يختبر هذا رسميًا.. ! المزيد قريبًا.. شكرًا
ملاحظة: - لجعل الأمور أكثر إثارة للاهتمام.. لقد حققت نجاحًا جيدًا مع حقن السياق + الضبط الدقيق.. وهناك أساليب ناشئة تجمع بين RAG وحقن السياق! .. إلخ إلخ.
انظر أيضًا: