هذا السؤال موجه إلى جميع مالكي المنتديات والمشرفين: ما رأيكم في المستخدمين الذين يستخدمون الذكاء الاصطناعي للتصفح التلقائي للمنتدى، وقراءة التعليقات الأخيرة تلقائيًا، ثم كتابة الذكاء الاصطناعي ردًا على الموضوع ونشره؟ يقومون بذلك حتى لا يضطروا إلى المشاركة الفعلية في المنتدى، لأنهم يريدون الوصول إلى مستوى ثقة أعلى للوصول إلى الأقسام المقيدة بمستوى الثقة.
هل تقومون بمراقبة هؤلاء المستخدمين بنشاط؟ كيف تعرفون إذا كان النص مكتوبًا بواسطة الذكاء الاصطناعي؟ هل تتغاضون عن ذلك؟
يمكن أن تصبح الأمور أكثر خداعًا. لقد رأيت منشورات يقوم فيها حساب وهمي (مُدار من قبل شخص واحد) بإنشاء موضوع جديد باستخدام الذكاء الاصطناعي، ثم بعد فترة قصيرة، ينشئ مستخدم جديد (يُرجح أنه يملكه نفس الشخص) ردًا يوافق فيه على صاحب الموضوع الأول ويمدحه.
لم ألاحظ هذا السلوك من قبل، لكنني كنت سأقوم بحظرهم. لو كانوا أعضاء في وضع سليم، لكانت النتيجة إنذارًا، لكن يبدو أنهم لم يساهموا قط.
أعتقد أن وجود سياسة صريحة بشأن مساهمات نماذج اللغة الكبيرة يساعد في هذه المسألة.
حسنًا، كيف يجب التعامل مع هذه المشكلة؟ سؤالي هو إلى أي مدى تقدر المحتوى المحمي بمستوى الثقة، وإلى أي مدى تقدر الوصول إلى هذا المحتوى.
إذا كان هذا محتوى لا تريد أن يستغل الناس «نظام اللعبة» للوصول إليه، فسيكون من الأفضل أن تبحث عن طرق لوقف مثل هذا السلوك.
والسبب هو أن هذا السلوك شائع جدًا. انظر إلى مثال روبرت:
آه… هذا يحدث هنا… كل يوم.
على أي حال
في كثير من الأحيان، يكون الأمر واضحًا جدًا للمشرف البشري بمجرد قراءته، لكن ذلك يستغرق وقت المشرف. بعض المديرين يستخدمون الذكاء الاصطناعي لكشف الذكاء الاصطناعي (أليس هذا مضحكًا؟)
انظر إلى نقاش مشابه هنا:
إذا كنت قادرًا على تحديد وكلاء المستخدم (user-agents) المستخدمة، أو إذا كانت هذه الوكلاء تحترم معايير التحكم، فيمكنك التفكير في حظرها، أو تحديد معدل الوصول إليها، أو استخدام ملف llms.txt.
لا تعمل هذه الإجراءات إلا إذا تصرف أتمتة (الروبوتات) كرجال محترمين.
إذا كانت مناطق جغرافية معينة تمثل مشكلة، فهناك دائمًا خيار الحظر الجغرافي (geo-blocking).
أستخدم وكيلًا يعتمد على الذكاء الاصطناعي لفحص المستخدمين الجدد أو ذوي مستويات الثقة المنخفضة. وقد ثبتت دقته بنسبة تتجاوز 95٪.
يعتمد الأمر على مدى ذكاء المتصيدين الخبيثين، ولكن مع بعض الجهد والاختبار، يمكنك أن تكون أذكى منهم 
لقد رأينا هذا كثيرًا أيضًا. بالطبع، لا يمكنني التعليق على الدوافع، لكن من خبرتي، الأمر أقل إثارة للاهتمام بكثير من محاولة “كسب الثقة”. أعتقد أنه مجرد إزعاج (Spam).
أصبح الإزعاج يشمل الآن مجموعات بيانات تدريب الذكاء الاصطناعي والتحسين لمحركات التوليد — حيث يكون من المفيد لهم ببساطة ذكر منتج أو خدمة أو شركة في جميع أنحاء الإنترنت.
لذلك، أحيانًا يكون الهدف هو جمع ثقة كافية لإسقاط رابط، لكني أشك في أن الروابط أصبحت ثانوية الآن.
حتى الآن، كانت العلامات الدالة على ذلك واضحة نسبيًا — “رأيي الصادق” هو أن “الخياطات الحاملة للوزن” تظهر بوضوح. قمت بتعليق الموضوع وأرسلت للمستخدم رسالة خاصة ودّية (لكنها قياسية) تقول مرحبًا، واطلب منه الرد عليّ لإعادة تفعيل الموضوع.
لم يردّ عليّ أحد قط.
كما اقترح شخص آخر، يبدو أنك قد تحتاج إلى إعادة النظر في قيمة المحتوى المحمي بكثافة القيمة النسبية لمساهمات المستخدمين في المنتدى. هل يمتلك الأشخاص الذين ليس لديهم وصول إلى المحتوى المحمي المعرفة أو المهارات اللازمة للمساهمة بشكل هادف؟ ربما غيّر متطلبات الوصول إلى مستوى ثقة جديد بطريقة لا تساعد فيها نشر المحتوى العشوائي، وجعل ذلك واضحاً بطريقة ما حتى لا ينجذب الناس إلى فعل ذلك.
قبل الذكاء الاصطناعي، هل كان بإمكان المستخدمين الجدد المساهمة بشكل هادف والوصول إلى مستوى الثقة التالي؟
سواء كان ذلك مفاجئًا أم لا، فقد استخدمت المساعد المدعوم بالذكاء الاصطناعي على المنشورات هنا لتحديد ما إذا كانت المنشورات مكتوبة بواسطة الذكاء الاصطناعي (جزئيًا للاختبار وجزئيًا للمتعة)، وذلك بعد أن قمت بتحديد ذلك بنفسي أولًا. وها هو ذا! إنه دقيق بشكل مفاجئ في تحديد ما إذا كان النص مكتوبًا بواسطة الذكاء الاصطناعي أو بشريًا.
إذا كان من الواضح تمامًا أن المستخدم كان يستخدم الذكاء الاصطناعي للتلاعب بالمنتدى حرفيًا، فاقترح إعطاء تحذير أو تحذيرين، يتبعه إيقاف مؤقت لمدة بضعة أيام ربما.
أعتقد أن علينا العودة إلى المبادئ الأولى: هل المحتوى الذي يُنتجونه مفيد للمجتمع الأوسع؟ إذا كان كذلك، فهل يهمّ كيف تم إنشاؤه؟ وإذا لم يكن كذلك، فليتم التعامل مع هذه المشكلة. وإذا كان شخص ما يستخدم حسابات وهمية (سوكببتينغ) وينشئ كمًا كبيرًا من المحتوى الرديء، ألا ينبغي أن تكون العواقب هي نفسها سواء كان المحتوى مُنتجًا بواسطة الذكاء الاصطناعي أو بواسطة إنسان؟
مجتمعنا في حالة تأهب، وقد فكّرت كثيرًا في هذا الأمر، لأن في الأزمنة التي نعيشها، لا يحترم أحد تقريبًا السياسات أو المبادئ. لذا، قمت بتطبيق نظام ثقة/كارما مخصص، حيث يحتاج المستخدمون إلى إكمال مهام (إنسانية) محددة للحصول على الصلاحيات.
سنبدأ بمستوى منخفض جدًا، لكن إذا رأيت السلوك الذي ذكرته هنا، سأرفعه ليصبح أمرًا مملًا أو مزعجًا أو شبه مستحيل أتمتته أو إنجازه باستخدام نماذج اللغة الكبيرة (LLMs).
مجتمعنا مبني على التفاعل البشري، وقد غادرنا ديسكورد لأن نظامهم المركزي لا يتماشى مع فلسفتنا. أتوقع أيضًا أن أرى كاميرات حية مولّدة بالذكاء الاصطناعي في يوم من الأيام، لذا أحتاج للتخطيط لما سأفعله حيالها.
لقد كنت أدير وأشرف على منتديات عدة في حياتي على الإنترنت، وتعلمت بالطريقة الصعبة أن الإجراءات القسرية أو العقابية عادةً ما يكون لها عكسية. يجب أن تكون دائمًا الخيار الأخير.
تعلم، “لا تُطعم التروّل” تنطبق في كل مكان.
بصراحة، أنا قلق بشأن احتمال أن يبدأ نظام المشرفين (TL) في التعطّل، لأنه أساسي لنظامنا الدفاعي المتدرّج. لا أرى ذلك يحدث هنا على الموقع الأم — هل قمت بتخصيص إعدادات اكتشاف الرسائل المزعجة بالذكاء الاصطناعي أو إعدادات المشرفين لديك؟
بصراحة، ودعًا لخيال عشّاق أفلام التسعينات في داخلي يستمرّ في الكتابة، سأُعيد إطلاق مجتمع متخصص من أمريكا اللاتينية سيكون مفتوحًا للعالم، لأنني أعتقد أن المنتديات بحاجة إلى البقاء على قيد الحياة، وفي غضون بضع سنوات سنكون نحن —البشر— 0.5 إلى 1% فقط من العالم.
اختفى Digg، واختفى Stack Overflow أيضًا. لم يعد Reddit مُدارًا من قبل البشر. كنت هناك، وقررت الانسحاب عندما رأيت الوحش الحقيقي يقترب. قيود على واجهات برمجة التطبيقات (APIs)، حظر العملاء البدائل، ملفات تعريف الارتباط (Cookies) في كل مكان، اختبارات CAPTCHA التي تطلب من الإنسان «إثبات أنه ليس روبوتًا»، بصمات رقمية على كل تفاعل، وما إلى ذلك.
إعادة فتح مجتمعنا ستُعرّضنا لرسائل البريد المزعج (Spam) والروبوتات، لكنني أتوقع المزيد من الهجمات على بنيتنا التحتية، لأننا (وأنا شخصيًا) نفضل دائمًا الاستضافة الذاتية (Self-hosting). لذا، اخترت أن أنسى كل شيء يتعلق بتحسين محركات البحث (SEO)، وأحدّ كل ما يمكنني، وأبقي التفاعلات بين «نحن»، وتعلمت كيف أشفّر البيانات، وأوزّعها عبر شبكات لامركزية، وأكون على شبكة Tor حيث يمكن استخدام Discourse من خلال Dumbcourse.
هذه هي خط الدفاع الأخير، وهي ليست ضرورية اليوم، لكن جانبي الديستوبيائي (وربما المجنون في نظر من يستمع أو يقرأ) يكون دائمًا في حالة تأهب، كما تعلمون. نحن نشاهد الأفلام: عملاء، عناكب، سيطرة كاملة، وإلخاء يلفّ الغالبية العظمى من الناس.
بالعودة إلى Discourse، لا أتوقع إساءة استخدام البريد المزعج لأننا نفعل شيئًا غير معتاد وخارج ما يتبعه الأغلبية، لكنني أتوقع أن يحاول العديد من المستخدمين استغلال الذكاء الاصطناعي في تفاعلاتهم ليبدووا أفضل مما هم عليه. ليس هذا مستحيلًا فحسب، بل إنه أيضًا أسوأ قرار يمكن أن يتخذه أي شخص يريد التحسن.
لذا، سننتقل من حشد عاطفي يتبع قائدًا إلى مجموعة موثوقة من المشرفين الذين يحافظون على إبعاد الوكلاء (Agents). أعتقد أن نظام مستويات الثقة في Discourse كان رائعًا، لكن العالم كما هو اليوم لا يشجّع عليه؛ فالناس مُدرَّبون على الحصول على كل شيء فورًا والحصول في المقابل على القليل من القيمة.
قراراتي بإنشاء نظام قديم الطراز بدلاً من نظام الشارات/الثقة الشائع سيُزيل كل الضوضاء، وأعتقد أنني اخترت أفضل منصة لمجلة يقودها أفضل فريق في العالم. سنرى إلى أين تتجه الأمور.
قرأت مقالك، وكذلك المقال عن الانقسام السام أو الانقسام الميتوزي (Mitosis). إنه دائمًا جميل أن تقرأ أشخاصًا يكتبون مما يعيشونه ويملكونه حقًا. أنا سعيد بالمفاجأة بأنك على دراية بنظرية «الإنترنت الميت». إنها الآن.
إعادة تدوين. قبل عامين تقريبًا، انتقلنا إلى منصة Discourse من منصة قديمة ومتداعية كانت سيئة من كل النواحي. كان من المستحيل مواكبة الرسائل المزعجة (Spam).
قامت Discourse بوضع حدٍّ لهذا الأمر، فعند تفعيل الكشف بالذكاء الاصطناعي أصبح الوضع مختلفًا تمامًا.
لا أذكر أي موضوع تجاوز هذه الحماية. هناك بعض الإنذارات الخاطئة للأعضاء الجدد، لكن لا شيء جسيم، وهذا الثمن لا شيء مقارنة بما كان عليه الحال سابقًا.
تمكنا من حظر عدد من المناطق الجغرافية التي كانت تنشئ أعدادًا هائلة من الحسابات، مما خفض المشكلة إلى مستوى لا يُعد عبئًا ولا يستحق القلق.
ما يعجبني في Discourse هو المرونة التي تمنحك إياها للتعامل مع المشكلات، والتطور المستمر، واستعداد الفريق للمساعدة. إنه تغيير منعش.
لا أمتلك كل الخبرة في بناء المشاريع على الإنترنت التي تتمتع بها مجتمع Meta ككل، لأنني دائماً ما أكون في أماكن محددة/صغيرة/متخصصة. قضيت قرابة العقد في وضع الأسس لأنظمة الأقران (Peer-to-Peer)، ولم أفهم اللغة الإنجليزية إلا منذ بضع سنوات، لذا كنت شبه غائب عن المشهد الكبير.
في الوقت نفسه، تعرضت لهجوم رسائل غير مرغوب فيها (Spam) على نظام إدارة المحتوى Ghost، وكان عليّ تعطيل التسجيل لأن النظام لم يكن مستعداً للتعامل معه. كان الأمر جنونياً، فمصادر خادم SMTP استهلكت في شهر واحد ما كان يستهلكه في عامين تقريباً.
إن الحفاظ على مجتمعات محددة يسمح بالمراجعة البشرية للحسابات؛ أعتقد أن هذه هي الطريقة الموثوقة الوحيدة لإبعاد الزواحف/الروبوتات. في أيامنا هذه، لا يوجد نظام لا يمكنهم تجاوزه؛ فالحسابات التي يديروها تتطور وتصبح أقوى كل يوم.
ستساعد الأدوات الجيدة كما هو الحال دائماً، لكن الدفاع الحقيقي يقع على عاتقنا.
أعتقد أنه يهم. في بعض الحالات، كان لدى المتصيدين (Spammers) أسئلة مُولَّدة بالذكاء الاصطناعي ذات طابع مُثير للفضول، وقد قضى مجتمعنا جماعياً وقتاً طويلاً في التعامل معها… فقط ليعود صاحب الموضوع الأصلي (OP) لاحقاً لإسقاط رابط متصيد أو لتعديل السؤال بأثر رجعي لإدراج رابط فيه. لم تكن نواياهم واضحة كمتصيدين قبل تلك اللحظة.
لن يتحمل الناس هذا النوع من الخداع مرات كثيرة. إنه يدمر حسن النية داخل المجتمع.
أظن أن منتداك ليس الهدف الوحيد، ومع ذلك في الاعتبار، فمن الواضح أن الجهة التي تقوم بهذا على الأرجح لا تريد أن تضيع وقتها في صياغة الموضوع الأصلي. وبذلك، يوفر المنشور المولّد بالذكاء الاصطناعي الوقت في المخطط العام. وبالتالي، يبدو أن اليقظة تجاه حجب المنشورات المكتوبة بالذكاء الاصطناعي قد تكون طريقة مجدية لتقليل هجمات الرسائل المزعجة.