هذا السؤال موجه إلى جميع مالكي المنتديات والمشرفين: ما رأيكم في المستخدمين الذين يستخدمون الذكاء الاصطناعي للتصفح التلقائي للمنتدى، وقراءة التعليقات الأخيرة تلقائيًا، ثم كتابة الذكاء الاصطناعي ردًا على الموضوع ونشره؟ يقومون بذلك حتى لا يضطروا إلى المشاركة الفعلية في المنتدى، لأنهم يريدون الوصول إلى مستوى ثقة أعلى للوصول إلى الأقسام المقيدة بمستوى الثقة.
هل تقومون بمراقبة هؤلاء المستخدمين بنشاط؟ كيف تعرفون إذا كان النص مكتوبًا بواسطة الذكاء الاصطناعي؟ هل تتغاضون عن ذلك؟
يمكن أن تصبح الأمور أكثر خداعًا. لقد رأيت منشورات يقوم فيها حساب وهمي (مُدار من قبل شخص واحد) بإنشاء موضوع جديد باستخدام الذكاء الاصطناعي، ثم بعد فترة قصيرة، ينشئ مستخدم جديد (يُرجح أنه يملكه نفس الشخص) ردًا يوافق فيه على صاحب الموضوع الأول ويمدحه.
لم ألاحظ هذا السلوك من قبل، لكنني كنت سأقوم بحظرهم. لو كانوا أعضاء في وضع سليم، لكانت النتيجة إنذارًا، لكن يبدو أنهم لم يساهموا قط.
أعتقد أن وجود سياسة صريحة بشأن مساهمات نماذج اللغة الكبيرة يساعد في هذه المسألة.
حسنًا، كيف يجب التعامل مع هذه المشكلة؟ سؤالي هو إلى أي مدى تقدر المحتوى المحمي بمستوى الثقة، وإلى أي مدى تقدر الوصول إلى هذا المحتوى.
إذا كان هذا محتوى لا تريد أن يستغل الناس «نظام اللعبة» للوصول إليه، فسيكون من الأفضل أن تبحث عن طرق لوقف مثل هذا السلوك.
والسبب هو أن هذا السلوك شائع جدًا. انظر إلى مثال روبرت:
آه… هذا يحدث هنا… كل يوم.
على أي حال
في كثير من الأحيان، يكون الأمر واضحًا جدًا للمشرف البشري بمجرد قراءته، لكن ذلك يستغرق وقت المشرف. بعض المديرين يستخدمون الذكاء الاصطناعي لكشف الذكاء الاصطناعي (أليس هذا مضحكًا؟)
انظر إلى نقاش مشابه هنا:
إذا كنت قادرًا على تحديد وكلاء المستخدم (user-agents) المستخدمة، أو إذا كانت هذه الوكلاء تحترم معايير التحكم، فيمكنك التفكير في حظرها، أو تحديد معدل الوصول إليها، أو استخدام ملف llms.txt.
لا تعمل هذه الإجراءات إلا إذا تصرف أتمتة (الروبوتات) كرجال محترمين.
إذا كانت مناطق جغرافية معينة تمثل مشكلة، فهناك دائمًا خيار الحظر الجغرافي (geo-blocking).
أستخدم وكيلًا يعتمد على الذكاء الاصطناعي لفحص المستخدمين الجدد أو ذوي مستويات الثقة المنخفضة. وقد ثبتت دقته بنسبة تتجاوز 95٪.
يعتمد الأمر على مدى ذكاء المتصيدين الخبيثين، ولكن مع بعض الجهد والاختبار، يمكنك أن تكون أذكى منهم 
لقد رأينا هذا كثيرًا أيضًا. بالطبع، لا يمكنني التعليق على الدوافع، لكن من خبرتي، الأمر أقل إثارة للاهتمام بكثير من محاولة “كسب الثقة”. أعتقد أنه مجرد إزعاج (Spam).
أصبح الإزعاج يشمل الآن مجموعات بيانات تدريب الذكاء الاصطناعي والتحسين لمحركات التوليد — حيث يكون من المفيد لهم ببساطة ذكر منتج أو خدمة أو شركة في جميع أنحاء الإنترنت.
لذلك، أحيانًا يكون الهدف هو جمع ثقة كافية لإسقاط رابط، لكني أشك في أن الروابط أصبحت ثانوية الآن.
حتى الآن، كانت العلامات الدالة على ذلك واضحة نسبيًا — “رأيي الصادق” هو أن “الخياطات الحاملة للوزن” تظهر بوضوح. قمت بتعليق الموضوع وأرسلت للمستخدم رسالة خاصة ودّية (لكنها قياسية) تقول مرحبًا، واطلب منه الرد عليّ لإعادة تفعيل الموضوع.
لم يردّ عليّ أحد قط.
كما اقترح شخص آخر، يبدو أنك قد تحتاج إلى إعادة النظر في قيمة المحتوى المحمي بكثافة القيمة النسبية لمساهمات المستخدمين في المنتدى. هل يمتلك الأشخاص الذين ليس لديهم وصول إلى المحتوى المحمي المعرفة أو المهارات اللازمة للمساهمة بشكل هادف؟ ربما غيّر متطلبات الوصول إلى مستوى ثقة جديد بطريقة لا تساعد فيها نشر المحتوى العشوائي، وجعل ذلك واضحاً بطريقة ما حتى لا ينجذب الناس إلى فعل ذلك.
قبل الذكاء الاصطناعي، هل كان بإمكان المستخدمين الجدد المساهمة بشكل هادف والوصول إلى مستوى الثقة التالي؟