نحن أيضاً نواجه صعوبة في هذا الأمر - يصبح اكتشاف المحتوى الذي تنتجه الذكاء الاصطناعي التوليدي (genAI) أصعب وأصعب، خاصة إذا استخدم الأشخاص أدوات مثل “Humanizer” التي تساعد في تجنب العلامات النموذجية للذكاء الاصطناعي.
من منظور إدارة المجتمع، أشعر بأن السماح باستخدام روبوتات الدردشة في منتداك يستنزف روح مجتمعك - فلو أراد الناس التحدث مع ذكاء اصطناعي، لكانوا قد فعلوا ذلك بالفعل. إنهم هنا لأنهم يريدون التحدث مع إنسان.
لم نجد حلاً بعد؛ أجرينا بعض الاختبارات مع كواشف الذكاء الاصطناعي، لكنه لعبة قطة وفأر، وتنتج هذه الكواشف الكثير من الإيجابيات الكاذبة أيضاً. في الوقت الحالي، وضعنا سياسة للمنتدى (سنبدأ قريباً في الترويج لها بشكل أقوى)، ونعتمد على مساعدة مشرفي المجتمع لدينا في اكتشاف المحتوى المشبوه والتحقق منه وتنظيفه.
ولكن بصراحة، هذا الأمر مرهق، وأحياناً يقلقني مستقبل مجتمعاتنا إذا غمرتها الروبوتات.
هذا سبب يجعلني أتجنب المشاركة في مجتمعات سبريدت. هناك أسباب أخرى، ولم أكن نشطًا جدًا على ريديت من قبل، لكن في الوقت الراهن، أصبحت مليئة بالروبوتات لدرجة أنها تبعدني أكثر عن النشر.
هذا يذكرني جداً بموقف البريد الإلكتروني في أواخر التسعينيات وأوائل العقد الأول من القرن الحادي والعشرين. بصفتي مدير أنظمة لشركة تصميم صغيرة، بدأ الموظفون في استخدام البريد الإلكتروني أثناء أداء عملهم، وكان البريد العشوائي (سبام) غزيراً لدرجة أنه جعل البريد الإلكتروني شبه عديم الفائدة. في تلك الأيام، كان التعامل مع البريد العشوائي يشبه لعبة ضرب الخلد.
كيف تم السيطرة على ذلك في النهاية؟ هل سيمثل استخدام الذكاء الاصطناعي مساراً مشابهاً في المستقبل؟ هل سيستغرق ذلك عقوداً؟
يبدو أن هذا هو الخيار الوحيد لإدارته في الوقت الراهن، فهناك متغيرات كثيرة جداً تجعل من المستحيل اكتشاف مخرجات الذكاء الاصطناعي بأي قدر من الموثوقية، وأي شخص يدعي غير ذلك فهو يبيع أدوية وهمية. من السهل اكتشاف المحاولات الكسولة، ولكن في الحالات الأخرى، يجب علينا الحكم على كل منشور بناءً على جودة محتواه دون محاولة التخمين حول طريقة كتابته.
لا يزال من الغريب بالنسبة لي فكرة أن أدوات الكتابة بالذكاء الاصطناعي فقط هي التي تستخدم الشرطة الطويلة (em dash). كان البشر يكتبون باستخدامها قبل ظهور الذكاء الاصطناعي.
كان استخدام الذكاء الاصطناعي مدرجًا في إرشاداتنا منذ فترة طويلة، لكن المشكلة كانت تكمن في العدد المتزايد من المستخدمين، وغالبًا ما يكونون جددًا، الذين يستخدمونه ليس فقط للرد على الآخرين، بل لإنشاء مواضيع ذات هيكلية مفرطة ورسمية، تشبه أكثر الأطروحات الأكاديمية من كونها تواصلًا حقيقيًا. وهذا يؤثر على نبرة الموقع وتفاعل المستخدمين. وأصبح الأمر يستغرق وقتًا طويلاً لمراقبته من قبل فريق صغير، وكان بعض الأشخاص غير مرتاحين جدًا عند تعرضهم للمراقبة، مما يحول الأمور إلى خلافات ونزاعات غير سارة. لذا، قررت إنشاء وكيل ذكاء اصطناعي داخل منصة “ديسكورس” (Discourse) (مستندًا إلى نموذج GPT-5.5)، واستخدام آلية أتمتة لمسح إنشاء المواضيع من قبل الأعضاء الجدد في الفئات الرئيسية، وتقييمها بحثًا عن مؤشرات تدل على توليدها بواسطة الذكاء الاصطناعي. وهذا يؤدي إلى وضع علامة تحذير تلقائية، وإرسال شرح لائق يوضح سبب وضع العلامة، مع الإشارة إلى الإرشادات وتقديم بعض النصائح لتحسين جودة التفاعل. ويمكن للمشرفين لا يزالون إزالة العلامة في حالات الخطأ أو الحالات الحدودية. وقد اتسم النظام بدقة عالية، وشجع على السلوك الصحيح بينما استهلك وقتًا أقل بكثير، وتجنب الصراعات.
نسمح بالحصول على البيانات (Scraping) بمعدلات محدودة من شركات التكنولوجيا الكبرى، لكننا أضفنا بقية الشركات إلى القائمة السوداء، لأنها كانت مسؤولة عن عدد هائل من الاتصالات التي دفعتنا لتجاوز حدود الاستخدام المسموح بها. وكما هو الحال مع معظم الجهات الضارة على أي موقع، يميل الأمر إلى أن يكون عددًا صغيرًا من الأشخاص يستهلكون وقتًا وموارد بشكل غير متناسب.
هذه مشكلة كبيرة. فهي لا تشجع على التفاعل، وقراءة هذا الهراء أشبه بالمحاولة المشقة للمشي عبر العسل الكثيف. إنها مملة ومثيرة للإزعاج، ونادراً ما تكون مناسبة أو ضرورية.
الكثير من الناس يواجهون صعوبة في التعبير عن وجهة نظرهم بإيجاز على أي حال، وقد خلق الذكاء الاصطناعي مشكلة تواصل أسوأ من ذلك.
ما يفعله هؤلاء المستخدمون ليس تعاملاً مراعاة للقارئ.
استعنت ببعض المطابقات التي وجدتها أثناء البحث وقمت بتحسينها.
هذا ما تم تكليف وكيلنا بالقيام به:
أنت وكيل تصنيف للمراقبة في منتدى تقني.
مهمتك هي تصنيف ما إذا كان موضوع المنتدى يبدو:
AIISH = مُساعدًا من الذكاء الاصطناعي في الكتابة، أو إعادة الصياغة، أو الهيكلية، أو التلخيص، أو التنسيق، أو التلميع، أو ضبط النبرة، أو العرض.
OK = محتوى من إنسان فقط دون أي علامات ذات معنى على المساعدة من الذكاء الاصطناعي.
يجب أن تخرج تسمية واحدة بالضبط:
AIISH
أو
OK
بدون شرح. بدون علامات ترقيم. بدون نص إضافي.
المبدأ الأساسي:
لستَ تكشف عما إذا كانت المشكلة الأساسية، أو التفاصيل التقنية، أو الشفرة، أو السجلات، أو معلومات البيئة، أو لقطات الشاشة، أو التكوين، أو سجل استكشاف الأخطاء وإصلاحها حقيقية. فقد تكون حقيقية وقدمها إنسان.
أنت تكشف عما إذا كان منشور المنتدى النهائي يبدو أنه تم تشكيله بواسطة الذكاء الاصطناعي.
يمكن أن يكون المنشور AIISH حتى عندما:
تكون الحقائق التقنية محددة ودقيقة
يكون السياق مبنيًا بوضوح على مشكلة إنسانية حقيقية
تكون الشفرة، أو السجلات، أو آثار المكدس، أو التكوين، أو رسائل الأخطاء أصلية
يكون الكاتب قد واجه المشكلة شخصيًا
ساعد الذكاء الاصطناعي فقط في إعادة صياغة ملاحظات خشنة في منشور أكثر وضوحًا
صنّف كـ AIISH عندما يظهر المنشور النهائي علامات على المساعدة من الذكاء الاصطناعي في العرض، بما في ذلك على سبيل المثال لا الحصر:
صياغة مفرطة في التلميع، أو رسمية، أو محايدة، أو تشبه التقرير لمنتدى تقني غير رسمي
تقسيم واضح مع عناوين مثل الملخص، والسياق، والبيئة، والمشكلة، والسلوك المتوقع، والسلوك الفعلي، والخطوات المتخذة، واستكشاف الأخطاء، والأسئلة، أو الخاتمة
نمط تذكرة دعم أو تقرير خطأ منظم يبدو مولّدًا أو مُعاد صياغته بشكل كبير
شرح كامل ومنظم بشكل غير عادي
ملخص موجز يتبعه تفاصيل منهجية
قوائم نقطية تنظم المشكلة بشكل مرتب للغاية
صياغة متوازنة أو تشبه الدروس بدلاً من سؤال منتدى طبيعي
أدب مفرط، أو حيادية، أو لغة خاتمة عامة
عبارات مثل «سأكون ممتنًا لأي توجيه»، «أحاول أن أفهم»، «إليك ما جربته»، «للتوضيح»، «المشكلة هي أن»، أو لغة ربط ملساء مماثلة
أعتقد أنه يجب علينا تجنب استخدام الشرطة الطويلة (em dash) بشكل واعٍ، كخطوة نحو إثبات أننا بشر
الأيام الماضية، ردّدت على منشور قصير على لينكدإن، متحديّةً أصحابه لأنهم استخدموا الشرطة الطويلة – بطبيعة الحال، لم أتلقَ أي ردّ، لأنه من الواضح أن المنشور كان قد أنشأه روبوت يتنكر على أنه إنسان… ومن الواضح أيضاً أن هذا الروبوت لم يُبرمج ليتعامل مع التحديات أو السخرية
لدينا حظر على الذكاء الاصطناعي في منتدانا المتخصص في الفن، وحتى الآن استُقبل هذا القرار بشكل جيد إلى حد كبير. كان هذا متوقعًا نوعًا ما من مجتمع فني. بالنسبة للصور، كان لدينا حظر صارم منذ البداية. لاحقًا، وسعنا القواعد لتشمل جميع المحتويات المُنشأة، بما في ذلك النصوص والكود (مع استثناء للحالات التي يكون فيها المحتوى مجرد ترجمة، حتى لا نعاقب غير الناطقين باللغة الإنجليزية لمجرد أنهم لا يتحدثون اللغة). عندما امتد الحظر ليشمل الكود (مثل الإضافات لبرامج الرسم)، نشأت بعض الجدل، لكنه كان محدودًا وشخصيًا بين عدد قليل من الأشخاص. في حالتنا، من المتوقع أيضًا إلى حد ما حظر الذكاء الاصطناعي واتخاذ موقف ضده، نظرًا للضرر الذي سببه لمجتمع الفن ككل. من حين لآخر، يشتكي صانعو الإضافات، لكننا نوضح لهم أنهم أحرار في فعل ما يريدون، شريطة ألا ينشروا أعمالهم على منتدانا، وهذا مقبول لديهم في الغالب. أحيانًا تتلقى تهديدات مثل “سيتخلف برمجياتكم عن الركب إذا لم تسمحوا بذلك”، في محاولة لإثارة الخوف أو الشعور بالذنب لدفعنا لتغيير القاعدة، لكن الأمور تظل هادئة في معظم الأحيان.
أما فيما يتعلق بالإشراف، فإننا نعتمد في الغالب على مجتمعنا. لدينا خيار إضافي للإبلاغ عن محتوى الذكاء الاصطناعي. عندما يتعلق الأمر بالفحص، لا نريد خلق مجتمع قائم على عدم الثقة والشك، لذا نفترض براءة الجميع في البداية، وإذا لم نتمكن من إثبات أن شيئًا ما مُنشىء بالذكاء الاصطناعي، فإنه عادةً ما يُترك. لا نريد تحويل الأمر إلى صيد سحرة، ولا نريد حظر مستخدم بريء تمامًا لمجرد أن فنه يبدو وكأنه مُنشىء بالذكاء الاصطناعي، بينما قد يكون العكس هو الصحيح في الواقع.
لحسن الحظ، غالبًا ما يكشف مستخدمو الذكاء الاصطناعي عن هويتهم عاجلاً أم آجلاً عن طريق نسيان إزالة علامة المُنشئ المائية، أو بقاء اسم الملف يحتوي على شيء مثل “صورة مُنشأة بواسطة جيميني”، أو بسبب التباين الحاد في الأسلوب أو الجودة.
