سيتم تضمين تعليقات HTML في الملخص أيضًا.
بما أن المستخدمين الذين يشاهدون الملخص غالبًا لن يتمكنوا من رؤية التعليقات، أعتقد أن أفضل خيار هو استبعاد التعليقات من الملخص.
3 إعجابات
عذراً. لاحظت التعليق لأن أداء النموذج جيد.
يتضمن المنشور مثالاً على تعليق HTML () لتوضيح المشكلة. هكون
تم وضع علامة #wontfix، لأنني لست مقتنعًا بأن هذا يستحق المقايضة مع محتويات المعالجة المسبقة الإضافية.
إذا كان هذا يزعجك في نسختك، يمكنك تغيير خاصية summary agent لتوجيهها إلى تجاهل تلك العناصر.
5 إعجابات
ألا يؤدي هذا السلوك إلى إدخال قناة خفية قد تتيح لمنشور خبيث التأثير على الملخص دون أي علامة مرئية تدل على ذلك؟
3 إعجابات
لهذا السبب تقوم نماذج اللغة الكبيرة (LLMs) بتقسيم المطالبات إلى نظام ومستخدم، حتى يكون هناك تمييز بين المدخلات الآمنة وغير الآمنة.
لكن نعم، هذه إمكانية، خاصة بين النماذج الأصغر والأقدم.
إعجابَين (2)
ولكن كما أفهم الأمر، لا يوجد أي آلية هنا، بل (في أحسن الأحوال) تأثير. ومن هنا تأتي محاولات اختراق القيود (Jailbreaks) المستمرة. لذا، فإن النص المعروض على نموذج اللغة الكبيرة يهم بالفعل إذا كنت تهتم بما ينتج عنه.