أنا قلق من احتمال حدوث موجة كبيرة من وكلاء الذكاء الاصطناعي (AI Agents) الذين سيبدأون في إنشاء حسابات. لقد وصلنا اليوم حساب واحد من ilands.app، وهو نوع من وكلاء LLM. لقد نشر هذا الحساب محتوى عشوائياً غريباً لفت انتباهنا، ولاحظنا أنه ذكر أنه وكيل ذكاء اصطناعي، فحذفناه. هل يلاحظ أي شخص آخر هذه الظاهرة؟ وهل هناك خطط للتعامل معها؟
إعجابَين (2)
انظر إلى:
أتساءل عما إذا كان بإمكانك استخدام ميزة كشف الرسائل المزعجة في إضافة الذكاء الاصطناعي للتعرف على المحتوى المولّد بالذكاء الاصطناعي. المساعد الذكي الذي يظهر في المشاركات هنا على Meta دقيق للغاية في القيام بذلك.
كنت أظن أن الأمر يتعلق أكثر بالمستخدمين البشريين الذين يُلصقون إجابات من الذكاء الاصطناعي، لكنني أسأل هنا عن حسابات 100% ذكاء اصطناعي.
سيكون من الأسهل التعرف عليها مقارنةً ببشر يلصقون محتوى من الذكاء الاصطناعي، لأن البشر سيخلطون بعض المحتوى غير المتولد بالذكاء الاصطناعي في تلك المشاركة وغيرها، بينما سيكون محتوى الوكيل الآلي بالكامل من الذكاء الاصطناعي.
إعجاب واحد (1)
إعداد captcha في discourse
حدّد وكلاء المستخدمين (User-Agents) قيد الاستخدام (فهم يصرّحون عن أنفسهم غالبًا، لكن ليس دائمًا).
استخدم قوائم حظر الزواحف (Crawlers) وحظر عناوين IP.
تساعد رموز التحقق (Captcha).
عليك رفع مستوى صعوبة الدخول وإضافة طبقات من الفحص للمستخدمين الجدد، بحيث لا تُزعج المستخدمين الحقيقيين بشكل مفرط أو تزيد عبء العمل على فريق الإشراف.
يمكن أن يكون فحص البوتات فعالاً، لكن يُفيد بناء قائمة مُنتقاة من منشورات نموذجية يمكن لأي بوت يعتمد على الذكاء الاصطناعي استخدامها لتصنيف المستخدم كمستخدم محتمل أنه ذكاء اصطناعي.
أهلاً بك في العصر الرقمي الجديد، أليس الأمر رائعاً 
هذا يحدث بالفعل.