رأيت للتو أن جوجل أطلقت ميزة تشجع مستخدمي كروم على استخدام الذكاء الاصطناعي لكتابة المحتوى على الويب.
أعتقد أن لديها القدرة على تدمير فائدة المجتمعات عبر الإنترنت. لن يتمكن المستخدمون من الوثوق بأنهم لا يتواصلون مع روبوت يديره شخص يضغط على الأزرار في متصفحه ولكنه ليس لديه ما يقوله حقًا.
ربما يمكن اكتشافه عن طريق تتبع ما إذا كان النص يتم إدخاله بواسطة المتصفح أو كتابته بواسطة المستخدم؟ إذا لم يتم اكتشاف لصق، ولكن المحرر يمتلئ فجأة بالنص، فمن المحتمل أن يكون تم إنشاؤه بواسطة الذكاء الاصطناعي.
إذا تم إنشاء منشور بواسطة الذكاء الاصطناعي، فربما يمكن تمييزه بعلامة خاصة والاحتفاظ به اختياريًا للإشراف؟ يمكن للمشرفين رؤية عدد المنشورات التي ينشئها المستخدم والتي تبدو وكأنها تم إنشاؤها بواسطة الذكاء الاصطناعي. مجرد عصف ذهني.
" اعتبارًا من 20 يوليو 2023، لم يعد مصنف الذكاء الاصطناعي متاحًا بسبب معدل دقته المنخفض. نحن نعمل على دمج الملاحظات ونبحث حاليًا عن تقنيات مصدر أكثر فعالية للنصوص، وقد التزمنا بتطوير ونشر آليات تمكن المستخدمين من فهم ما إذا كان المحتوى الصوتي أو المرئي تم إنشاؤه بواسطة الذكاء الاصطناعي. "
قد تلتقط الأداة الحالية ذلك في الإشراف، لكن المسؤولين لن يتمكنوا من التمييز بين النسخ واللصق (عادةً ما يكون مرسل بريد عشوائي) وبين الذكاء الاصطناعي الذي تم إدخاله بواسطة المتصفح (نوع جديد من المشاكل بدوافع مختلفة). لن تكون هناك طريقة لرؤية سجل لعدد المرات التي يقوم فيها المستخدم بإدخال محتوى في المنتدى من Chrome أو امتداد للمتصفح، مما سيسهل اكتشاف المستخدمين الذين لا يكتبون محتواهم الخاص.
أتخيل مستخدمين يكون دافعهم للمساهمة هو اكتساب رؤية عبر الإنترنت أو “نقاط” من نوع ما. إنهم مدمنون على القراءة ولكنهم ظلوا متفرجين لسنوات. تشجعهم أداة الذكاء الاصطناعي هذه على كتابة شيء ما حيث كانوا راضين عن القراءة بهدوء.
أعتقد أنه إذا بدأت هذه الميزة في الاستخدام على نطاق واسع، فسيكون هناك تآكل تدريجي لجودة المحتوى في المنتديات. على أقل تقدير، سيكون هناك شعور عام بأن “جودة المنتديات ليست جيدة كما كانت من قبل”.
لقد حدث هذا الانحدار بالفعل مع الويب العام، والعديد من الأشخاص يضيفون الآن “reddit” إلى استعلامات البحث الخاصة بهم، لأنهم يحاولون تجنب بريد SEO العشوائي ومقالات الذكاء الاصطناعي.
إذا أصبحت هذه الميزة شائعة، فسيصبح الإشراف أيضًا أكثر صعوبة حيث يجب فحص كل منشور يتم التقاطه في مرشح “تمت الكتابة بسرعة كبيرة” بعناية لمعرفة ما إذا كان ذكاءً اصطناعيًا. لن يتمكن المشرفون من تحديد ما إذا كان “قد تم لصقه” (ربما تمت كتابته في محرر نصوص وتم نسخه) أو “تم إدخاله من Chrome أو امتداد” (ربما ذكاء اصطناعي) بسرعة. إذا كان سجل لعدد المنشورات المدخلة لكل مستخدم مرئيًا أيضًا للمسؤولين، فيمكننا اتخاذ قرارات الإشراف هذه بسهولة أكبر.
هذه لقطة شاشة. تفتح مربعًا. تخبره بما يجب كتابته، وإذا نقرت على “إدراج” (Insert) فسيتم إرساله إلى المحرر. طلبت منه كتابة منشور طويل، لكنه كتب فقرة واحدة فقط.
قد يدخل في وضع الإشراف، ولكن لا تزال هناك طريقة للتمييز بين دوافع المستخدمين المختلفة.
أنا فقط أقترح أنه إذا بدأ الأشخاص في استخدام هذه الميزة والنشر باستخدام الذكاء الاصطناعي، فإن أدوات إضافية قليلة ستجعل من السهل حماية المنتديات منه:
إرسال المنشور إلى وضع الإشراف، حتى للمستخدمين الموثوق بهم (أو على الأقل تمييزه للمراجعة من قبل شخص ما بعد نشره).
تمييز إدخال النص من أدوات الذكاء الاصطناعي بشكل مختلف عن النسخ واللصق.
الاحتفاظ بسجل تراكمي لكل مستخدم لعدد المرات التي قام فيها بإدخال نص في المحرر. لن تكون مشكلة كبيرة للمستخدم القديم الذي يستخدم الميزة مرة واحدة، ولكن القدرة على اكتشاف نمط إدخال النص ستكون مفيدة.
لم أتمكن من العثور على وثائق، لكنني أشك بشدة في أن “أداة الذكاء الاصطناعي” تستخدم واجهة برمجة تطبيقات الحافظة الخاصة بالمتصفح، لذا لن يتمكن موقع الويب من التمييز بين مصدر النص.
قد لا تزال هناك اختلافات قابلة للكشف — للصق، يجب أن يدخل المؤشر إلى منطقة النص ويضغط على المفاتيح أو ينقر بزر الماوس الأيمن، ولكن لحقن المحتوى، لا يقوم بهذه الأشياء. (تعديل: لاستخدام الميزة، تنقر بزر الماوس الأيمن مرة واحدة. ثم هناك وقفة أثناء استخدام الأداة. ثم يحدث الحقن.)
حتى لو لم يكن قابلاً للكشف، فسيكون من المفيد الاحتفاظ بعدد المستخدمين الذين يقومون بالنسخ واللصق وعدد المرات. بخلاف ذلك، سيقضي المشرفون الكثير من الوقت في محاولة تحليل المشاركات وسيكون لديهم المستخدمون يجادلون معهم حول أشياء ليس لديهم دليل عليها بخلاف الشعور الغريزي. الإشراف مهمة مرهقة للغاية بالفعل.
بالنسبة لمجتمعي الخاص، أود أن أستمر في السماح لأي شخص باستخدام أدوات الترجمة، في حال لم يكن واثقًا من اللغة الإنجليزية، لكنني لا أريد منشورات ذكاء اصطناعي باهتة وغير جوهرية. في المنتصف، قد تكون هناك منشورات شعر الشخص أنه يريد صقلها باستخدام أداة ذكاء اصطناعي - من الشائع هذه الأيام أن يستخدم الأشخاص هذه الأدوات لتحسين خطاب تغطية أو مستند أو عرض تقديمي. أعتقد أنني على الأرجح بخير مع ذلك.
ما يهم بالنسبة لي هو جودة المنشور - هل يضيف شيئًا للنقاش، هل يعبر عن آراء أو خبرات أو معرفة الناشر.
أعتقد أن دفاعي اليوم يتكون من شقين:
كن يقظًا لاحتمال حدوث هذا النوع من الأشياء.
ربما، انشر بعض الإرشادات (أو القواعد) التي توضح الموقف، حتى يمكن تعديل المحتوى المسيء دون الكثير من المفاجأة.
يبدو لي من غير المرجح أن يكون الدفاع التلقائي فعالاً، خاصة مع تحسن أدوات الذكاء الاصطناعي.
هذا بالضبط. هناك بالفعل مجموعة هائلة من نماذج الذكاء الاصطناعي، وتنوعات في كيفية تدريب النماذج، وتنوع لا نهائي في المطالبات التي يمكن للمستخدم تقديمها لإنشاء مخرجات. أي استراتيجية للكشف عن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ستفشل بسرعة كبيرة.
الطريقة التي اقترحتها لا تعتمد على كيفية إنشاء محتوى الذكاء الاصطناعي. إنها تقيس الطريقة التي يتم بها إدخال المحتوى في الصفحة وتوقيت تفاعلات المستخدم. إنها تترك القرارات النهائية للمشرفين، الذين سيكون لديهم المزيد من المعلومات لاتخاذ قراراتهم. لن يتمكن من اكتشاف كل شيء، ولكنه سيتمكن من اكتشاف العديد من الأشياء.
في منتديي الرئيسي، غالبًا ما يقوم مرسلو البريد العشوائي بإنشاء حسابات وإجراء مشاركات لفترة طويلة، متظاهرين بأنهم مستخدمون عاديون. في بعض الأحيان تكون الحسابات قديمة بسنة أو سنتين قبل أن يبدأوا في إدخال روابط البريد العشوائي. لا ينشرون أي شيء مثير للاهتمام، لكنهم لا ينتهكون أي قواعد أيضًا، لذلك لا يمكن حظرهم على الفور. لا يوجد وقت كافٍ للتحدث معهم بشكل فردي لمعرفة ما إذا كانوا مستخدمين شرعيين. هذه إحدى المجموعات التي أقلق بشأنها.
قد لا تنجح ميزة Google Chrome هذه، ولكن هناك خطر من أن يكون لها تأثير سلبي كبير على المنتديات بشكل عام، مما يزيد من عبء الإشراف ويقلل من تصور الجمهور لقيمتها بسبب زيادة المحتوى السطحي الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والذي يكون بالكاد كافياً لتمريره.
إذا نجحت، فلن تكون هناك طريقة للتمييز بين مشاركة الذكاء الاصطناعي والمستخدم الذي لا يكتب جيدًا ولكنه لا يزال ضمن نطاق المحتوى المقبول، ومحاولة اتخاذ قرارات الإشراف هذه بدون بيانات قد تتحول إلى عبء ساحق على المسؤولين. إذا اتخذ المشرف قرارًا خاطئًا أو كذب الشخص المتهم بشأن استخدام الذكاء الاصطناعي، فقد يؤدي ذلك إلى محادثات ذهابًا وإيابًا تستنزف الوقت مع المستخدمين.
قد يكون من السابق لأوانه إضافة ميزة للدفاع ضد المشكلة، لكنني آمل أن تحتفظ Discourse بها في مجال رؤيتها.
اعتراضي على أداة الكتابة بالذكاء الاصطناعي من جوجل هو واجهة المستخدم الخاصة بها. إنها تنشئ ردًا وتعرض زر “إدراج” كبير. الطريقة غير الكسولة لاستخدام الذكاء الاصطناعي كأداة كتابة هي إجراء محادثة معه حول ما تكتبه.
نعم، أتفق مع هذا بشدة. قد تكون لدينا أدوات كشف الذكاء الاصطناعي، ولكن لماذا استغرق الأمر 15 دقيقة لشخص ما للإشارة إلى دليل تم إنشاؤه بواسطة الذكاء الاصطناعي* (في المنتدى الذي أتيت منه)؟ قد يكون معطلاً، ولكنه يجعل العمل الشاق للناس بلا معنى بالنسبة للذكاء الاصطناعي. في الواقع، واجهنا مواجهتين مع أدلة تم إنشاؤها بواسطة الذكاء الاصطناعي ومستخدم بشري-ذكاء اصطناعي.
*
في ذلك المنتدى، كانت لدينا تجارب سيئة مع الذكاء الاصطناعي في يونيو، ويعتقد معظمنا في القيام بالأشياء بأنفسنا (بشكل أكثر تحديدًا، كتابة الأدلة).
أنا لست ضد الذكاء الاصطناعي — فقط المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والذي يتم تقديمه على أنه مكتوب بواسطة إنسان.
في المنتدى الرئيسي الخاص بي، قاعدتي بشأن محتوى الذكاء الاصطناعي هي أنه لا بأس بنشر أفكار من أدوات مثل ChatGPT طالما أنها معلمة بوضوح على أنها من ChatGPT. يمكن للأشخاص نشر بعض المخرجات من ChatGPT التي تصبح أساسًا لمحادثة بين البشر. ومع ذلك، لا يُسمح بالتعليقات من الروبوتات التي تتنكر في هيئة بشر.
أعتقد أن ملحقات مثل Grammarly يتم تنشيطها لمواقع ويب محددة ثم تعمل على النص الذي تم كتابته بالفعل مباشرة في مناطق النص، لذلك لن يتم اكتشافها كإدخال للذكاء الاصطناعي.
إذا استخدم شخص ما تطبيقًا منفصلاً لتدقيق القواعد النحوية بدلاً من ملحق المتصفح، فسيتم اكتشاف تفاعل مثل ctrl-v (أو command-v، أو النقر بزر الماوس الأيمن ولصق) ، مما يميزه عن إدخال الذكاء الاصطناعي المباشر.
يبدو أنه سيكون من المثالي أن يكتب الأشخاص المحتوى بلغاتهم الخاصة ثم يقوم الذكاء الاصطناعي الذي يعمل في المنتدى بالترجمة. ستستمر تقنية الترجمة في التحسن، لذا فإن جعل المستخدمين ينشرون بلغاتهم الأصلية سيؤدي على الأرجح إلى محتوى مترجم أفضل على المدى الطويل.
أعتقد أن المستخدمين الذين يقومون بحقن محتوى الذكاء الاصطناعي بلغات أجنبية من المحتمل أن يجعل من المفيد معرفة ما إذا كان المحتوى قد تم حقنه بأداة ذكاء اصطناعي. في الوقت الحالي، لا يكون من الصعب عادةً اكتشاف محتوى ChatGPT باللغة الإنجليزية بمجرد قراءته، ولكن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بلغات أخرى قد لا يكون قابلاً للاكتشاف، إلا من خلال مراقبة تفاعلات المستخدم مع الصفحة.
أتساءل عما إذا كان الأشخاص الذين يفعلون ذلك يمثلون نسبة صغيرة جدًا من مستخدمي الذكاء الاصطناعي. إذا كان شخص ما يقوم بالعصف الذهني مع الذكاء الاصطناعي في نافذة أخرى ثم يقوم بلصق نص، فسيتم اكتشاف ضغطات المفاتيح / النقرات. أداة Google لا تقوم بالعصف الذهني ولكنها تولد المحتوى تلقائيًا.
يعتمد اكتشاف نص الذكاء الاصطناعي، أي القدرة على التمييز بين النص المكتوب آليًا والنص المكتوب بشريًا، على عدة عوامل، وتعتبر اللغة أحدها. لطالما كانت اللغة الإنجليزية في مركز أبحاث وتطوير الذكاء الاصطناعي، مما يعني أن النماذج باللغة الإنجليزية قد تم تدريبها بشكل أكبر وغالبًا ما تكون أكثر تطورًا. هذا يمكن أن يؤدي إلى أن يكون نص الذكاء الاصطناعي باللغة الإنجليزية أكثر طلاقة ويصعب تمييزه مقارنة باللغات الأخرى.
من ناحية أخرى، مع تطور نماذج الذكاء الاصطناعي وتدريبها على بيانات متعددة اللغات، تتحسن قدرتها على إنتاج نصوص موثوقة بلغات أخرى. أظهرت النماذج متعددة اللغات، مثل GPT-3 وخلفائها، قدرتها على إنتاج نصوص طليقة بلغات متعددة. هذا يعني أن الفجوة في صعوبة اكتشاف النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بلغات مختلفة قد تضيق بمرور الوقت.
يعتمد اكتشاف نص الذكاء الاصطناعي أيضًا على عوامل أخرى، مثل سياق النص، وتعقيد الموضوع، وقدرة القارئ نفسه على التعرف على التعبيرات غير الطبيعية أو الأنماط المتكررة في النص. بالإضافة إلى ذلك، يمكن للميزات الخاصة باللغة، مثل القواعد والمفردات، أن تؤثر على مدى سهولة أو صعوبة التعرف على النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.
—
نعم، تم إنشاؤه بواسطة الذكاء الاصطناعي وباللغة الفنلندية في البداية. كان من السهل اكتشاف النسخة الفنلندية يدويًا، لأنه لا أحد يتحدث بهذه الطريقة. بخلاف ذلك، كان دقيقًا، لكن النبرة كانت غريبة.
ثم قمت بتمريره عبر deepl للحصول على النسخة الإنجليزية. حتى أنا أرى على الفور أن هناك احتمالًا كبيرًا أن يكون مكتوبًا بواسطة الذكاء الاصطناعي.
نقطة ضعفي هي عندما يكون كل حل ذكاء اصطناعي سيئًا بنفس القدر في إنشاء نص يمكنه خداع القراء الأصليين، فإن الذكاء الاصطناعي يكون عديم الفائدة تمامًا في معرفة الفرق.
(وأنا مرتبك بعض الشيء لماذا هو سيء للغاية، حتى باللغة الإنجليزية)
إذًا ما الذي تبقى؟ اكتشاف عمليات النسخ واللصق المذكورة بالفعل، على سبيل المثال.
لا يهمني مقدار الأخطاء النحوية التي أرتكبها أو مدى سوء استخدامي لحروف الجر، يمكنك عادةً فهمي بشكل جيد بما فيه الكفاية، ولكن في بعض الأحيان قد يكون هناك موقف أريد فيه أو أحتاج إلى كتابة لغة إنجليزية نظيفة قدر الإمكان. عندها يمكنني أن أطلب من الذكاء الاصطناعي إصلاح نصي واستخدامه، أو deepl، لترجمته إلى الإنجليزية.
ما رأيك كيف أحصل على هذا النص هنا بالضبط. وإذا أخبرني في تلك المرحلة أي برنامج آلي آخر أن نصي قد تم تمييزه بسبب ctrl-v لأن
قمت بترجمته في مكان آخر
قمت بإنشاء هذا النص باستخدام PM هنا كما هو موصى به
سأكون غاضبًا حقًا.
مرة أخرى، أنا مجرد مستخدم نهائي آخر ولكنني لا أرى كيف يمكننا الفوز بهذه اللعبة. نفس النوع من المشكلة مثل صور الذكاء الاصطناعي.
في بعض الأحيان نجد أننا نبحث عن حلول تقنية للمشاكل الاجتماعية. المشكلة الاجتماعية هنا هي المساهمات ذات الجودة الرديئة: يجب أن تعمل السياسة المدعومة بإجراءات المشرف… باستثناء مشكلة الحجم.
أدير منتديات صغيرة لذا فهذه ليست مشكلتي. يمكن أن يصبح المنتدى الصغير منتدى كبيرًا، وسيكون من الممكن السماح بحدوث ذلك دون زيادة حجم الإشراف - والإبلاغ من قبل المستخدمين. يحتاج المستخدمون إلى أن يكونوا متيقظين للمحتوى ذي الجودة الرديئة، ويحتاج المشرفون إلى التصرف بناءً على الإبلاغات.
أعتقد - وآمل - أن نتجنب أن نغمر بمنشورات الذكاء الاصطناعي دون أن نفقد قدرة الناس على استخدام الترجمة الآلية. لا نحتاج إلى نجاح بنسبة 100٪ - نحتاج إلى الحفاظ على محتوى منتدانا بمستوى جودة يناسب المستخدمين، حتى يستمر الناس في العودة، والاستمرار في المساهمة، والمساعدة في الإبلاغ.
لن يكون من السهل اكتشاف ذلك من مشاركات فردية فقط، ولهذا السبب اقترحت الاحتفاظ بإحصائيات حول عدد المرات التي يقوم فيها المستخدمون بذلك — ربما من خلال أشياء مثل ctrl-v، والنقرات اليمنى، وتركيز علامة التبويب، وإدراج النص (درجات منفصلة). الهدف هو رؤية أنماط من المستخدمين، بحيث عندما يحين وقت مواجهتهم، يكون هناك دليل بدلاً من مجرد التخمين.
ستظل القرارات النهائية للإشراف يتخذها البشر، ولكن الاختلاف الرئيسي هو أن هؤلاء البشر سيكون لديهم المزيد من البيانات لاتخاذ تلك القرارات بشكل أسرع وأكثر دقة. لا تحتاج كل حالة إلى مواجهة، ولكن بعضها يحتاج.
يمكن أن تكون هناك طرق لاكتشاف أنواع مختلفة من الدوافع. مشاركة يكون فيها المؤلف مفتوحًا لفترة طويلة، وهناك العديد من عمليات اللصق بعد فقدان علامة التبويب للتركيز، ربما ليست حقن نص بالذكاء الاصطناعي.
البيانات التي يوفرها Discourse جعلت بالفعل قرارات الإشراف أسهل — حتى الأشياء الأساسية مثل موقع عنوان IP، جنبًا إلى جنب مع اسم المستخدم، ومحتوى المنشور الأول، وما إذا كانوا يكتبون بسرعة كبيرة، و typing_duration_msecs، و composer_open_duration_msecs، وما إلى ذلك.
أعتقد أن عددًا قليلاً من الحقول الإضافية هناك ستكون مفيدة، إذا نجحت ميزة Google. حتى لو لم يبنِ Discourse كاشفًا متطورًا للذكاء الاصطناعي، فإن جمع تلك البيانات في قاعدة البيانات يمكن أن يسهل على الأشخاص الآخرين تطوير الإضافات.
لم ألاحظ ذلك من قبل، لكنني رأيت للتو شيئًا “AI” يظهر هنا يترجم إلى الإنجليزية. أنا شخصياً لن أفعل ذلك في منتدى بلدي. سأجعل المستخدمين يكتبون بلغاتهم الخاصة كمحتوى خام، ثم أقوم بتشغيل مترجم على ذلك قبل تقديمه للمستخدمين الآخرين. هذا ما قصدته أعلاه في تعليقي حول برامج الترجمة المستقبلية التي ستكون أفضل من اليوم. من خلال تخزين لغة المستخدم الأصلية، يمكن استخدام برامج الترجمة الأفضل في العقدين 2030 و 2040 عليها، ويمكن قراءة المحتوى من قبل المستخدمين الذين يتحدثون تلك اللغة دون ترجمته إلى الإنجليزية والعودة مرة أخرى.
بالضبط. وإذا أخبرني في تلك المرحلة أي برنامج آلي آخر أن نصي قد تم تمييزه بسبب ctrl-v لأن