الطلب من وضع علامة على القوالب والإضافات المولّدة بواسطة LLM على هذا النحو

أنا أيضًا قلق من الإضافات والمكوّنات ذات الجودة المنخفضة، ولا أثق بها حقًا عندما تكون مُبرمجة بنسبة 99% بناءً على الحدس (Vibe Coding) من قِبل شخص لا يعرف شيئًا عن البرمجة.

لكنني أؤمن أيضًا بما يقوله المبرمجون ذوو الخبرة هنا وهناك، بأن المبرمجين السيئين كانوا موجودين منذ فترة طويلة قبل الذكاء الاصطناعي[1]. فالكود المُهمل وغير الموثوق وغير المكتمل كان يُصنع يدويًا منذ أزمنة سحيقة.

ما يقلقني هو أنني عندما أرى تطبيقًا أو إضافة أو أي شيء آخر مُبرمج بناءً على الحدس، وأُشتبه في أن المؤلف لم يُراجع الكود.

على الرغم من أنني أملك بعض المعرفة الأساسية في البرمجة، إلا أنني لم أكتب أي كود منذ فترة طويلة، ولم أكن أبدًا جيدًا في ذلك. جربتُ البرمجة بناءً على الحدس (Vibe Coding) لعدة مشاريع.

في البداية، كنت مترددًا جدًا في نشرها رسميًا على Meta، لكنني فعلت ذلك أخيرًا بعد أن أخذت وقتي لمراجعة وفهم ما يفعله كل جزء من الكود، كما أنني ذكرتُ نهجي علنًا في مواضيعي. ليس أنني أتذكر كل ما قرأته قبل نشر تلك الإضافات، لكن على الأقل، تمكنتُ من ضمان الموثوقية والأمان في الوقت الذي نشرتُ فيه هذا العمل.

لديّ مثال جيد يوضح كيف كان بإمكان البرمجة بناءً على الحدس أن تجعلني أنشر إضافة غير آمنة للغاية.

قبل العمل على 🖼️ Topic Gallery، عملتُ على إنشاء نموذج أولي (Proof of Concept) لإضافة مشابهة هنا: A way to monitor user-uploaded files 🖼️ - #2 by Canapin
كان يعمل بشكل رائع، والتزم الذكاء الاصطناعي بتوجيهاتي.

لكن كان هناك مشكلة: على الرغم من أن الميزة كانت بوضوح ميزة للمراقبة (Moderation)، إلا أن الذكاء الاصطناعي لم يأخذ الصلاحيات في الاعتبار: أي مستخدم، بما في ذلك الزوار، كان قادرًا على فتح هذه الصفحة وعرض جميع الملفات التي رفعها جميع المستخدمين. كان من الواضح بالنسبة لي أن يجب أن تكون هذه الصفحة للإدارة فقط، لكن الذكاء الاصطناعي لم “يفكر” في ذلك. وبما أنني لم أطلب ذلك منه، فقد أنشأ صفحة عامة افتراضيًا.

لذلك، أظل أقول لنفسي أنه إذا كان بإمكانني أنا والذكاء الاصطناعي أن نتغافل عن تسريب أمني كهذا، فقد يفعل غير المبرمجين الذين يبرمجون بناءً على الحدس الإضافات والمواضيع (TCs) نفس الشيء للأسف.

الرأي حول الكود المُنشأ بالذكاء الاصطناعي في البرمجيات مستقطب بشدة. يكفي أن تنظر إلى أي مشروع مفتوح المصدر شهير حيث يُذكر Claude كمؤلف مشارك في آخر التعديلات لترى سيلًا من الكراهية من بعض الأشخاص.
أنا مقتنع بأننا يجب أن نتعامل مع هذه الأمور بحذر، وأن تكون آراءنا أكثر توازنًا.

لستُ مؤيدًا بشكل خاص لوجود نوع من وسم vibe-coded (مُبرمج بالحدس) قد يضر بشكل غير ضروري بشعبية التخصيصات الآمنة والمُبرمجة جيدًا ومُؤلفيها.

أعلم أن أي شخص يمكنه الآن إنتاج تخصيصات، وقد يأتي المزيد والمزيد منها كل يوم، ولا يوجد عدد كافٍ من الأشخاص لمراجعتها.

ربما تكون مراجعة الذكاء الاصطناعي هي الحل. حدسي لا يعجبني هذا الفكرة حقًا لسبببب مختلفة، لكنني أعتقد أنه إذا اقترح Sam هذا النوع من الحلول، فربما يكون جيدًا، لأنني أثق كثيرًا بمهاراته وحكمه. خاصةً وأنني نفسي لا أعرف شيئًا. :laughing:

ربما يمكن لبعض المطورين هنا الذين يعرفون البرمجة ونظام Discourse الإيكولوجي أن يحصلوا على لقب يُظهر صراحةً خبرتهم في هذا المجال، بحيث يمكن اعتبارهم مطورين موثوقين حتى من قِبل الزوار الذين يبحثون فقط عن تخصيصات هنا دون تسجيل. سيكون هذا عكس ما تطلبه، darkpxlz. فبدلًا من “إحراج” التخصيصات التي قد تكون غير موثوقة، سنُبرز الموثوقة منها. :slight_smile:

هذا مجرد مادة للتفكير، مع ذلك. :person_shrugging:


  1. ينبغي أن أعرف ذلك، فقد كنتُ أحد هؤلاء المبرمجين! ↩︎

5 إعجابات