إذًا… كيف أشعر حيال كل هذه الأمور؟
من الواضح أنني متحمس. لدينا صندوق جديد تمامًا من الألعاب لنلعب بها، وهذه الألعاب تختلف عن أي ألعاب أخرى كانت لدينا في الماضي. كما هو الحال مع معظم التقنيات، يمكن استخدامها للخير أو للشر.
شخصيًا، أشعر وكأنني في خضم ضباب الذكاء الاصطناعي. اعتدت أن يكون لدي فهم جيد لمسار الأمور في السنوات الثلاث إلى الأربع القادمة؛ ومع ذلك، فقد طرحت نماذج اللغات الكبيرة (LLMs) والتطورات المستقبلية لهذه التقنية عقبة في الطريق. أنا فقط لا أعرف أين ستكون الأمور في غضون عام واحد.
عندما تنظر عن كثب إلى السرعة التي تحرك بها الانتشار المستقر (stable diffusion) في الأشهر القليلة الماضية، فإن ذلك مذهل. عندما تنظر إلى نطاق التقدم من GPT 3.5 إلى 4، فإنه مذهل أيضًا.
حتى مع ضباب الذكاء الاصطناعي الجديد، لدي بعض المخاوف الحقيقية:
-
من الواضح تمامًا بالنسبة لي أن منتديات الدعم سيتم استيعابها بواسطة نماذج اللغات الكبيرة (LLMs) واستخدامها كبيانات تدريب لروبوتات الدردشة المفيدة. الميزة هنا هي أن الكثير من العمل الشاق المتعلق بالدعم يمكن أن يختفي، وتحصل على إجابات على الفور. ومع ذلك، فإن الجانب السلبي هو أنه سيتم إنشاء محتوى جديد أقل، مما قد يؤدي بسرعة إلى دوامة موت ما لم يتم التخفيف من حدته.
-
أنا متأكد من أن البريد العشوائي وغيره من الجهات الفاعلة السيئة سيعتمدون على هذه التقنية، ويشنون هجمات أكثر تطورًا بكثير من أي شيء رأيناه حتى الآن، مما قد يؤدي إلى تدمير المنتديات إذا لم نكن حذرين.
-
يمكن لهذه التقنية المساعدة أن تقوض الثقة. عندما تقرأ الكلمات التي أكتبها، تتوقع أن تأتي الكلمات مني. يمكن للناس استخدام الذكاء الاصطناعي للقيام بأكثر من مجرد التدقيق اللغوي؛ يمكنه إعادة صياغة كلماتنا بالكامل. هل تريد أن تبدو مثل مالكولم جلادويل؟ لا مشكلة، يمكنك فعل ذلك. ما هو مستوى التصنيف الذي يجب أن يتوقعه مستخدمو المنتديات المسؤولون؟ سيتخلى الناس عن المنتديات إذا لم يعودوا يثقون في أنهم يتحدثون إلى أشخاص أو أنهم يتحدثون ببساطة إلى صور زائفة.
اقرأ هذا بكلمات مالكولم
في عالم اليوم، تتمتع التكنولوجيا المساعدة بالقدرة على تقويض الثقة بطرق قد لا نكون قد توقعناها. كمستهلكين للكلمة المكتوبة، لدينا توقعات معينة - وهي أن الكلمات التي نقرأها أصلية وتنبع من مصدرها المعلن. ومع ذلك، مع ظهور تكنولوجيا الذكاء الاصطناعي، يمكن للأفراد معالجة النص المكتوب بطرق تتجاوز مجرد التدقيق اللغوي. في الأساس، يمكنهم إعادة صياغة الرسالة بالكامل لتبدو مثل أي شخص يختارونه. لذا، إذا كنت قد حلمت يومًا بأن تبدو مثل مالكولم جلادويل أو أي شخصية بارزة أخرى، فيمكن لهذه التكنولوجيا أن تجعل ذلك يحدث بسهولة. ومع ذلك، يثير هذا تساؤلات حول التصنيف المسؤول لمستخدمي المنتديات. إذا لم يعد بإمكان الأشخاص الوثوق في أنهم يتفاعلون مع أشخاص آخرين، وليس فقط صور زائفة تم إنشاؤها بواسطة الكمبيوتر، فقد يتخلون عن المنتديات تمامًا. مستوى التصنيف المطلوب للحفاظ على الثقة في الخطاب عبر الإنترنت هو مصدر قلق ملح يستحق دراسة جادة.
- لقد رأينا منتديات مصانع تحسين محركات البحث (SEO) في الماضي؛ سنرى إصدارات أكثر تفصيلاً ومخيفة من هذا.
مخاوف أخرى مشابهة لـ GPT 4
- هناك خطر من أن يؤدي استخدام نماذج اللغات الكبيرة (LLMs) في المنتديات إلى خلق ثقافة كسل بين المستخدمين الذين يعتمدون بشكل كبير على تكنولوجيا الذكاء الاصطناعي لتقديم الإجابات والرؤى. هذا يمكن أن يؤدي إلى تدهور في التفكير النقدي ومهارات حل المشكلات لدى مستخدمي المنتديات.
- يثير استخدام نماذج اللغات الكبيرة (LLMs) في المنتديات مخاوف أخلاقية بشأن خصوصية البيانات وأمنها. قد يشعر المستخدمون بعدم الارتياح لفكرة تحليل ومعالجة معلوماتهم الشخصية وتفاعلاتهم بواسطة نظام ذكاء اصطناعي، خاصة إذا لم يكونوا على دراية كاملة بكيفية استخدام بياناتهم.
- قد يؤدي دمج نماذج اللغات الكبيرة (LLMs) في المنتديات إلى تفاقم التحيزات وعدم المساواة القائمة، خاصة إذا تم تدريب تكنولوجيا الذكاء الاصطناعي على مجموعة بيانات محدودة لا تلتقط تنوع تجارب ووجهات نظر مستخدمي المنتديات.
- قد يؤدي استخدام نماذج اللغات الكبيرة (LLMs) في المنتديات أيضًا إلى تجانس الخطاب، حيث من المرجح أن يتلقى المستخدمون ردودًا موحدة يتم إنشاؤها بواسطة نظام الذكاء الاصطناعي بدلاً من ردود دقيقة ومتنوعة من مستخدمين بشريين آخرين. هذا يمكن أن يخنق الإبداع والأصالة في محادثات المنتديات.
- هناك خطر من أن يؤدي دمج نماذج اللغات الكبيرة (LLMs) في المنتديات إلى إزاحة المشرفين البشريين وموظفي الدعم، مما قد يكون له آثار سلبية على الأمن الوظيفي وجودة الدعم المقدم للمستخدمين.
على الرغم من هذه المخاوف وغيرها، ما زلت متحمسًا ومتفائلًا. ستكون هناك تطبيقات مبهجة ومفيدة للغاية لهذه التقنية ونأمل في استكشاف ذلك في Discourse.
لقد انطفأت النار؛ أفضل ما يمكننا فعله هنا هو توخي الحذر الشديد في أساليبنا وتجاربنا ومحاولة احتواء النار. آمل أن نتمكن من احتواء النار. ولكنك تعلم… ضباب الذكاء الاصطناعي…