أود أن أسمع تجارب العاملين في المنتديات التي لا تسمح بمحتوى مُنتَج بواسطة الذكاء الاصطناعي/النماذج اللغوية الكبيرة (LLM). كيف تمكّنتوا من إيصال هذا الأمر للمستخدمين؟ وكيف تكتشفون هذا المحتوى؟ وما هي الطريقة التي تتبعونها عند التعامل مع المستخدمين الذين ينشرونه رغم ذلك؟
كل الآراء محل ترحيب.
ملاحظة: شخصياً، أنا مهتم فقط بالجانب البشري فيما يتعلق بالتفاعلات الأمامية (واجهة المستخدم) على الموقع. فأنا أفترض أن منع زحف محركات البحث (Crawlers) أمرٌ شاقّ بلا جدوى.
يمكن اكتشاف معظم النصوص التي تنتجها الذكاء الاصطناعي، إن لم يكن جميعها، بسهولة بمجرد قراءتها. تُعد تقنية SynthID من جوجل تقنية رائعة للكشف عن الصور التي أنشأتها الذكاء الاصطناعي، وتدعي أنها قادرة حتى على اكتشاف النصوص المكتوبة على الأرجح بواسطة Gemini فقط، كما أن OpenAI تدعم المعيار نفسه. ربما يكون القدرة على اكتشاف النصوص شخصياً مهارة تُكتسب مع الوقت، لكنني أقدر العمل الجاري للتعامل مع الأزمة الحالية المتمثلة في عدم القدرة على كشف صور أو نصوص الذكاء الاصطناعي.
أعتقد أن كتم الصوت/حظر الحسابات لا يزال هو الطريق الصحيح للتعامل مع هذه القضية، خاصة إذا كان الحساب جديداً. إذا انضم حساب جديد عشوائي إلى موقعك ونشر فوراً موضوعاً مولده الذكاء الاصطناعي، فلا أرى سبباً يمنعك من حظر الحساب ومنعه تماماً.
أما بالنسبة لمعضلة النقر (scraping) الشاملة: موقعي مخصص حالياً للاتصال الداخلي والتوثيق داخل شركة صغيرة، وأخطط لاستخدامه كواجهة خلفية (backend) للكتابة المدونة في النهاية. لم يكن من الصعب إعداد فخ للروبوتات (honeypot) لردع المتصفحات التي تختار تجاهل ملفات robotstxt على نطاقات موقعي.
عندما يزور روبوت الذكاء الاصطناعي هذا الموقع، يتم توجيهه إلى متاهة لا نهاية لها من الرسائل المزعجة باستخدام مشروع iocaine المستضاف ذاتياً، والذي يحتوي على مجموعة بيانات من حوالي 7000 كلمة مفبركة، وبعض أكواد HTML غير المفهومة، وكلمات عشوائية، وأخبار مزيفة من صنع نموذج Llama 8B.
من الواضح أن هذا تكتيك “اذهب بعيداً” نووي وليس مناسباً للجميع، لكنه كان مفيداً جداً لي في هدفي المتمثل في منع نماذج اللغات الكبيرة (LLMs) من سرقة أكوادي أو محتوى نصوصي. أتذكر قراءة دراسة حالة أجرتها Anthropic حول تسميم نماذج اللغات الكبيرة، لكنني لم أعد أجد المقال، لذا لن أرفقه هنا، لكن بالتأكيد في مرحلة ما سيحتاجون إلى حظر نطاقي عندما يدركون أن الروبوت أرسل حوالي 5 ملايين طلب إلى نطاقي مؤخراً.
(ألاحظ أننا نترك جانباً مسألة عبء زحف محركات البحث (crawlers)، وأخذ المحتوى للتدريب، والعواقب الاجتماعية والاقتصادية للتطورات السريعة الحالية. هذا أمر جيد.)
بالنسبة لي، في موقع هواي منخفض الحركة:
نحاول الاتفاق على صياغة سياسة مكتوبة.
نتعامل مع الأمور عند ظهورها.
الحالات الأكثر إثارة للجدل تُعتبر بشكل أساسي إزعاجاً (spam)، لذا نقوم بحذفها ومنع المستخدمين.
وإلا، نقوم بالاعتراض، ربما بشكل علني وربما بشكل خاص، وقد نقوم بحذف المنشورات.
قد تبدو صيغة مقترحة للتوجيه على النحو التالي:
“امتلاك” محتوى الرسائل التي تنشرها (أي قراءة وفهم المحتوى وعدم نسخ ولصق المحتوى بشكل أعمى، بغض النظر عن مصدره).
محاولة الإجابة على أسئلتك بنفسك بأفضل ما يمكن أولاً (على سبيل المثال، من خلال البحث في المنتدى) قبل بدء مواضيع جديدة.
تقديم تفاصيل محددة بطريقة موجزة حتى يتمكن المستخدمون الآخرون من القراءة والفهم لمساعدتك، أي تجنب الجدران الطويلة من النصوص المتكررة أو غير ذات الصلة، أو العبارات العامة جداً دون معلومات كافية.
الحفاظ على النقاش ضمن الموضوع، وتجنب المناقشات الجانبية (خاصة حول استخدام الذكاء الاصطناعي - سواء كان ذلك “أفضل الممارسات” أو “أخلاقياته”).
الحفاظ على احترام المحادثات وتذكر أن لدينا مستخدمين بخلفيات وآراء مختلفة.
استمتع! هذا من المفترض أن يكون هواية.
(في بيئتنا الهواوية، هناك زاوية إضافية، وهي استخدام نماذج اللغة الكبيرة (LLMs) ضمن الهواية، والتي تغطي طيفاً من الاحتمالات ولها كل من المؤيدين والمعارضين.)
هذا المثال لا يتعلق بمنصة Discourse، لكن قضايا السياسة والحوكمة تتداخل بالتأكيد.
تتبنى كل من نسختي ويكيبيديا بالإنجليزية والألمانية الآن ما يمكنني وصفه بأنه سياسات قصوى للـ «نقاء الاصطناعي». وكَمحررٍ بخبرة 16 عامًا، وُجهتُ اتهاماتٌ خاطئة بإضافة محتوى مولّد بالذكاء الاصطناعي إلى مقالة كتبتهاُ أنا بشكل أساسي. وكانت عملية السعي إلى علاج هذا الأمر مؤلمة للغاية. وشمل ذلك تقديم شكاوى رسمية إلى لجنة التحكيم في ويكيبيديا الإنجليزية (ArbCom) وإلى فريق الثقة والسلامة في مؤسسة ويكيميديا (WMF TST)؛ حيث تم رفض الشكوى الأولى بإيجاز، ورفضت الثانية دون تقديم أي سببٍ حتى الآن.
لا أريد سرد تجاربي هنا، جزئيًا لأنها لا تزال جارية. غير أنني أشجّع القراء هنا على مراجعة هذه المبادلة الاستثنائية المتعلقة بمقالة ويكيبيديا الإنجليزية حول كهف فيرن، وهو موقع ذو أهمية ثقافية لشعب مودوك في كاليفورنيا:
اضطر الكاتب المعني إلى نفي استخدام الذكاء الاصطناعي أربع مرات. كما تم التقليل من قيمته المعرفية الأصلية في هذه العملية. وينتهي المحرر المنفّذ بملاحظة تشبه القلق، لكنها يمكن أن تُقرأ أيضًا على أنها تهديدٌ مبطّن بفرض عقوبات إذا لم يستسلم.
تُستخدم أساليب نفسية كهذه بانتظام من قبل المحررين المنفّذين، ولديّ أدلة على أمثلة أخرى.
إذا نظرت إلى ترميز المصدر في تلك المبادلة نفسها، ستجد فخًا من نوع «الحوض» (honeypot) تم ضبطه بـ font-size: 0pt لمحاولة كشف استخدام الذكاء الاصطناعي من قبل الكاتب المتهم عند صياغة ردوده. ولم يُفعّل هذا الفخ.
توجد تقارير موثوقة عن عدة محررين غادروا ويكيبيديا الألمانية بعد أن وُجهت لهم «هجمات غير عادلة» بسبب ما يُفترض أنه استخدامهم لأدوات الذكاء الاصطناعي.
وللإجابة على السؤال الأصلي الذي طرحه هذا الموضوع، أرجح أن ويكيبيديا الإنجليزية والألمانية تفشلان بشكل كبير في حوكمتهما بعدة طرق في محاولتهما التعامل مع محتوى الذكاء الاصطناعي. وقد وثّقتُ ثلاث دراسات حالة في تقريري الأخير المكون من 17 صفحةً المقدم إلى فريق الثقة والسلامة في مؤسسة ويكيميديا (WMF TST). وقد يكون من الممكن جعل ملف الـ PDF هذا متاحًا للجمهور في وقت لاحق.
أنا أختلف بشدة مع هذا الرأي، استنادًا إلى تجاربي في ويكيبيديا الإنجليزية (المفصلة في مكان آخر ضمن هذا الموضوع). وأقترح أن هذا النهج هو في الغالب علم زائف ممزوج بالغطرسة. والأهم من ذلك، أن مثل هذا الكشف لا يمكن دحضه — بل إن المحررين الإنفاذيّين في ويكيبيديا، الذين يعملون غالبًا بتناغم، يثبتون أقدامهم بصلابة عند مواجهة التحدي.
ويُترك المحرر المُتّهم أمام عبء إثبات معكوس واتهامات لا يمكن دحضها — حتى مع وجود أقوى الأدلة التي تثبت العكس. فتُذبل العدالة الطبيعية. وهذا ليس نوعًا من الحوكمة المجتمعية يُعتَمَد عليه عادةً.
أنا أعرف ذلك جيدًا. لقد خضعت لهذه العملية بنفسي. إنها قبيحة. لا بدّ من وجود طريقة أفضل.
كانت القراءة ذات الصلة، ولا سيما المقال الثاني، مُلهمة لي عندما قرأتهما لأول مرة. أعتقد أن هذا ينطبق جزئيًا عليك أيضًا @robbie.morrison . هناك من «يكتب بهذه الطريقة ببساطة».
وقد توصلت إلى هذه الفكرة الأساسية: أنا لا أكتب مثل ChatGPT. بل إن ChatGPT، بطريقة غريبة ومجردة وجلبتها مصادر عالمية، يكتب مثلي. أو بالأحرى، يكتب مثل ملاييننا الذين مررنا عبر مسار تعليمي ومجتمعي محدد للغاية، وهو مسار صُمم عمدًا لإزالة الغموض وتشكيل أفكارنا في شكل محدد للغاية، ورسمي للغاية، ومبهر للغاية.
نعم، التحيز ضد متحدثي الإنجليزية غير الأم هو أحد أكبر مخاوفي.
كما أن هذا ليس مجتمع Discourse، لكن هذه قراءة مثيرة للاهتمام: طاولة مستديرة حول القواعد XXI.V: الانتحال، والنزاهة، والذكاء الاصطناعي التوليدي . هذه المقالة من مجتمع AskHistorians على ريدت. لأولئك الذين لا يعرفون، يُعد هذا على الأرجح أحد أكثر المجتمعات تشددًا في الرقابة على ريدت. فهم يسمحون عمليًا فقط بالردود ذات المستوى الأكاديمي على الأسئلة.
لا يزال موقع AskHistorians على ريدت يحمل تحيزاً “أطلق النار أولاً”، يتبعه عبء إثبات معكوس للمتهم (لكن بالتأكيد مع ضمانات إجراءات قانونية أكثر من ويكيبيديا/ويكيميديا):
إذا لم تذكر أنك استخدمت الذكاء الاصطناعي لتوليد إجابة واشتبنا أنك قد تستخدم الذكاء الاصطناعي بطريقة مخالفة للقواعد، فستُحظر. ومع ذلك، يُخبر كل من يُحظر بسبب استخدام الذكاء الاصطناعي بكيفية تقديم استئناف. يبدو الأمر قاسياً، لكن جزءاً من مبرراتنا هو توجيه الأشخاص إلى “بريد المشرفين” (modmail) لنتمكن من إجراء نقاش وتجنب الاستدعاء العلني الذي قد يؤدي إلى هجوم جماعي.
ربما تكون هذه هي الاستراتيجية الوحيدة القابلة للتطبيق حالياً؟ لكنها بعيدة كل البعد عن العدالة الطبيعية.
أرتكب أخطاءً كثيرة لدرجة أنني قد أُصنَّف خطأً على أنني ذكاء اصطناعي
غريب أنني لاحظت أنني أصبحت أكثر ميلاً مما مضى إلى عدم تصحيح الأخطاء الصغيرة التي ألاحظها في منشوراتي طواعيةً (حتى في الفرنسية، لغتي الأم). أشعر بأن ترك هذه الجوانب غير الكاملة يمنح ما أكتبه مصداقيةً أكبر وهويةً أوضح. فقد يتمكن الناس من التعرف على رسالتي كنتيجة لتلك الأخطاء أو الجمل المكتوبة بشكل غريب. كما أن عدم محاولة جعل كل ما أكتبه مثالياً (بغض النظر عن معنى ذلك) أقل إرهاقاً عقلياً.
مجتمعي ليس نشطًا حقًا بعد، لكنني أشعر بقوة بأننا لا نريد أن ينشر الناس محتوى مولدًا بواسطة نماذج اللغة الكبيرة (LLM). في الوقت الحالي، لا أمانع في وجود المتسللات (crawlers)، وأريد أن يكون لدينا بوت أو رسائل نظام لنماذج اللغة الكبيرة، لكنني لا أريد أن ينشر الأعضاء ذلك الحشو الناتج عن ChatGPT (لدينا كمية هائلة من التوثيق المصنوع يدويًا نريد أن يستخدمه الناس).
سيكون ذلك جزءًا من القواعد، وسنقوم بـ « مراجعة » المحتوى عندما نراه، لكنني مهتم بالتعليق التلقائي عليه واستراتيجيات أخرى.
