الطلب من وضع علامة على القوالب والإضافات المولّدة بواسطة LLM على هذا النحو

أوافق على ذلك بنسبة 95%. ونحن الآن نتحدث عن Discourse، فتخيلوا لو كنا في عالم ووردبريس!

(النسبة المتبقية 5%: لا أعتقد أنها “غرب برّي” - فمشاكل الأمان تُبلَّغ عنها عبر meta إلى مطوري الأطراف الثالثة، وبشكل عام يتم إصلاحها بسرعة كبيرة).

لكن في الوقت نفسه، تجربتي هي أن نماذج اللغة الكبيرة (LLMs) (في أيامنا هذه) تولّد كوداً أكثر أماناً من متوسط مؤلفي الإضافات البشر. ويمكنك إلقاء أي إضافة على أي نموذج لغة كبير معقول وسؤاله “اعثر على مشاكل الأمان وأصلحها” وسيفعل ذلك، حتى لو لم يكن لدى الشخص معرفة كبيرة بالأمان.

لقد كنت أراجع الإضافات يدوياً على مدى العقد الماضي وشهدت الكثير: حقن SQL (من أشخاص ظنوا أن ActiveRecord متعجرف)، إعدادات مفاتيح API تحتوي على client: true، انعدام تام للتفويض والتحكم في الوصول، وانعدام تحديد معدل الطلبات. جميعها تُكتشف وتُصلح بواسطة نماذج اللغة الكبيرة في وقت قصير وبدون الكثير من الجهد.

لذا مرة أخرى: أعتقد أن نماذج اللغة الكبيرة جعلت هذا أفضل، وليس أسوأ.

أنت ما زلت ترتبط بين الكود المولّد بواسطة نماذج اللغة الكبيرة بـ “علبة دود”، وهذا أمر أسود وأبيض للغاية.

7 إعجابات