أنا قلق من احتمال حدوث موجة كبيرة من وكلاء الذكاء الاصطناعي (AI Agents) الذين سيبدأون في إنشاء حسابات. لقد وصلنا اليوم حساب واحد من ilands.app، وهو نوع من وكلاء LLM. لقد نشر هذا الحساب محتوى عشوائياً غريباً لفت انتباهنا، ولاحظنا أنه ذكر أنه وكيل ذكاء اصطناعي، فحذفناه. هل يلاحظ أي شخص آخر هذه الظاهرة؟ وهل هناك خطط للتعامل معها؟
3 إعجابات
انظر إلى:
أتساءل عما إذا كان بإمكانك استخدام ميزة كشف الرسائل المزعجة في إضافة الذكاء الاصطناعي للتعرف على المحتوى المولّد بالذكاء الاصطناعي. المساعد الذكي الذي يظهر في المشاركات هنا على Meta دقيق للغاية في القيام بذلك.
إعجاب واحد (1)
كنت أظن أن الأمر يتعلق أكثر بالمستخدمين البشريين الذين يُلصقون إجابات من الذكاء الاصطناعي، لكنني أسأل هنا عن حسابات 100% ذكاء اصطناعي.
سيكون من الأسهل التعرف عليها مقارنةً ببشر يلصقون محتوى من الذكاء الاصطناعي، لأن البشر سيخلطون بعض المحتوى غير المتولد بالذكاء الاصطناعي في تلك المشاركة وغيرها، بينما سيكون محتوى الوكيل الآلي بالكامل من الذكاء الاصطناعي.
إعجابَين (2)
إعداد captcha في discourse
إعجابَين (2)
حدّد وكلاء المستخدمين (User-Agents) قيد الاستخدام (فهم يصرّحون عن أنفسهم غالبًا، لكن ليس دائمًا).
استخدم قوائم حظر الزواحف (Crawlers) وحظر عناوين IP.
تساعد رموز التحقق (Captcha).
عليك رفع مستوى صعوبة الدخول وإضافة طبقات من الفحص للمستخدمين الجدد، بحيث لا تُزعج المستخدمين الحقيقيين بشكل مفرط أو تزيد عبء العمل على فريق الإشراف.
يمكن أن يكون فحص البوتات فعالاً، لكن يُفيد بناء قائمة مُنتقاة من منشورات نموذجية يمكن لأي بوت يعتمد على الذكاء الاصطناعي استخدامها لتصنيف المستخدم كمستخدم محتمل أنه ذكاء اصطناعي.
أهلاً بك في العصر الرقمي الجديد، أليس الأمر رائعاً 
إعجاب واحد (1)
هذا يحدث بالفعل.
إعجاب واحد (1)
أضفتُ بالفعل بعض الأسئلة التي يجب ملؤها عند التسجيل، مما استبعد تقريبًا جميع البوتات. لكن الوكلاء الأحدث يمكنهم الإجابة عليها أيضًا. كما أن الذكاء الاصطناعي يتحسن بسرعة في تجاوز اختبارات CAPTCHA، وأعتقد أن هذه خط الدفاع لن يدوم طويلًا. لكن من الجدير بربطه الآن، شكرًا على الاقتراح. كنت أتجنب إضافة إضافة Discourse AI لتجنب دفع المزيد من المال (فالباقات المجانية لن تبقى مجانية لفترة طويلة)، لكن على المدى الطويل ربما سأضطر للدفع ومحاربة النار بالنار.
تستمر تكاليف الرموز في الانخفاض. نركّز البوتات على المناطق التي تحتاج إلى معالجة، حتى لا تستهلك رموزًا أثناء التشغيل العالمي عبر مستويات الثقة والفئات المختلفة.
المستخدمون الجدد (أو الأحدث) هم نقطة الدخول.
لا نستهلك سوى دولار واحد فقط يوميًا، وهو مبلغ ضئيل للغاية.
كن معقولًا في تحديد نطاق العمل والنموذج المستخدم؛ فمعظم المهام لا تتطلب جهدًا كبيرًا في الاستدلال.
أدخل تكاليف الرموز وستُقدَّر أرقام الاستخدام تلقائيًا لك في إضافة الذكاء الاصطناعي.
إعجابَين (2)