هل تواجه رسالة غير مرغوب فيها تعتمد على الذكاء الاصطناعي؟

في الأسبوعين الماضيين تقريبًا، شهدنا ارتفاعًا في موقعنا. نرى بريدًا عشوائيًا نموذجيًا بروابط مخفية في الردود الجديدة من حسابات جديدة. عندما زدنا السمعة لإنشاء منشورات جديدة، رأينا زيادة في الردود التي تم إنشاؤها بواسطة الذكاء الاصطناعي، وبدا أن الروبوتات تحاول زيادة سمعتها ببطء على حسابات وهمية. هذه الردود لا تحتوي على روابط وهمية واضحة، بل تحتوي على نص ذكاء اصطناعي عام لا يساهم في الإجابة على السؤال.

لقد تعرضنا لهجوم خلال عطلة نهاية الأسبوع بزيادة كبيرة في المنشورات العشوائية، بما يكفي لإنشاء شخص موضوعًا جديدًا يقول إن هناك الكثير من البريد العشوائي في منتدياتنا. منذ ذلك الحين، يحتاج المسؤولون إلى التحقق من الموقع كل يوم لتنظيف منشورات الذكاء الاصطناعي الوهمية. نرى أيضًا منشورات الذكاء الاصطناعي على حسابات تم إنشاؤها في الماضي ولم يكن بها أي نشاط، مما يجعل الأمر يبدو وكأن بعض روبوتات البريد العشوائي كانت تزرع الحسابات لفترة من الوقت وتتركها دون نشاط. الآن يحاولون تجاوز حدود المشاركة ببطء حتى يتمكنوا من نشر مواضيع جديدة.

كما ذكرنا أعلاه، قمنا بزيادة مستويات الثقة لنشر مواضيع جديدة. كما قمنا بتمكين akismet. لكن هذا لم يوقف منشورات البريد العشوائي للذكاء الاصطناعي. حاليًا، نحتاج إلى مسؤول/مشرف للتحقق من المنتدى كل يوم لمراجعة المنشورات المميزة وتنظيفها. بعضها صعب ويبدو أنه قد يكون شخصًا، لذلك يحتاج شخصان إلى التحقق.

لقد شجعنا مستخدمينا على المساعدة والإبلاغ عن المنشورات التي تبدو وكأنها ذكاء اصطناعي وقد ساعد ذلك.

منتدياتنا ذات حجم منخفض إلى حد ما وقد تم تشغيلها لسنوات مع القليل جدًا من التنظيف والصيانة من قبل المسؤولين، ولكن يبدو أن روبوتات الذكاء الاصطناعي قد وجدتنا. أعتقد أن الذكاء الاصطناعي قد يكون مطلوبًا لإيقاف الذكاء الاصطناعي؟

6 إعجابات