لديّ الكثير من المشاكل مع الأدوات القائمة على نماذج اللغة الكبيرة (LLM) (والمخرجات التي تنتجها). وليس الأمر يتعلق فقط بمشاكل الأمان والقانون والموثوقية والبيئة. لكن هذا ليس هو المشكلة الرئيسية هنا.
الأمان، بالمعنى الواسع، هو القضية المهمة هنا. سواء كان الكود مُنشأً بواسطة الذكاء الاصطناعي أم لا.
ما الأدوات التي تستخدمها CDCK لفحوصات الأمان؟ ستكون العديد منها مهمة أيضاً للأنشآت التي تنشئها الأطراف الثالثة.
لكن هناك المزيد مما يجب فحصه. مع أي أنظمة خارجية تتواصل الأنشآت التي تنشئها الأطراف الثالثة؟ ستقبل معظم أدوات تحليل الأمان أن البرنامج يتواصل مع خوادم خارجية، دون وجود نبض (heartbeat). لكن مكوّن مظهر تجميلي بحت يجب ألا يؤدي أي استدعاء إلى خادم خارجي. لذا قد تحتوي الأنشآت التي تنشئها الأطراف الثالثة على ثغرات أمنية، أو تحتوي على مشاكل يمكن أن تضر بالتوافر. لكنها قد تسرّب البيانات أيضاً.