المنشورات والحسابات لا تُستعاد دائمًا عندما يُرفض العلم من نظام كشف البريد المزعج باستخدام Discourse AI

,

الأولوية/الخطورة:

مرتفع

المنصة

نظام التشغيل

Windows 11

المتصفح

Google Chrome 131.0.6778.265

Discourse

c1a46995a7b87982557eeba297d4460169c77bba

Discourse AI

61758ff8a6ea98e4502d0bdc9a8abe635aa35666

الوصف:

عند اكتشاف منشور كرسالة غير مرغوب فيها بواسطة ميزة اكتشاف البريد العشوائي الخاصة بمكون Discourse AI الإضافي، يتم اتخاذ الإجراءات التالية:

  • يتم إخفاء المنشور
  • يتم إسكات حساب مؤلف المنشور
  • يتم رفع علامة

يقوم موظفو المنتدى بعد ذلك بمراجعة العلامة. في حالة كون اكتشاف البريد العشوائي إيجابيًا خاطئًا، سيقوم عضو الموظفين بالنقر فوق الزر “لا، استعادة المنشور” في واجهة مراجعة العلامة.

:bug: لا يتم دائمًا استعادة المنشور والحساب عند النقر فوق الزر “لا، استعادة المنشور” بواسطة مراجع العلامة. يظل المنشور مخفيًا ويظل حساب مؤلف المنشور صامتًا بشكل غير عادل.

خطوات التكرار:

لا أعرف كيفية تكرار الخطأ بشكل موثوق، ولكن هذه هي الخطوات التي يتم تنفيذها عند حدوث الخطأ:

  1. انتظر حتى يتم وضع علامة على منشور بواسطة نظام اكتشاف البريد العشوائي Discourse AI.
  2. انقر فوق الزر “لا، استعادة المنشور” في واجهة مراجعة العلامة.
  3. تحقق من المنشور الذي تم وضع علامة عليه.
    :bug: قد يظل المنشور مخفيًا.
  4. تحقق من صفحة المسؤول للمستخدم الذي أنشأ المنشور الذي تم وضع علامة عليه.
    :bug: قد يظل حساب المستخدم صامتًا.

سياق إضافي

يبدو أن هذا يحدث في ظل الظروف التالية:

  • المنشور الذي تم وضع علامة عليه ليس المنشور الأول في الموضوع.
  • مؤلف المنشور الذي تم وضع علامة عليه هو من أنشأ الموضوع.

ألاحظ أنه إذا قمت بالتحقق من ملاحظات المستخدم للمستخدمين الذين ظلت حساباتهم صامتة بعد رفض العلامة بسبب الخطأ، فهناك ملاحظتان متطابقتان بهذا الشكل:

system 19m

@discourse_ai_spam أسكت هذا الحساب حتى 13 يناير 3025. السبب: تم إسكات المستخدم تلقائيًا بواسطة Discourse AI

تفصل عدة دقائق بين الطوابع الزمنية للملاحظتين. ترتبط كلتا الملاحظتين بنفس المنشور، والذي تم رفع علامة واحدة فقط له.

إذا قمت بالتحقق من ملاحظات المستخدم للمستخدمين الذين تم وضع علامة على منشوراتهم، ولكن تم استعادة الحساب بشكل صحيح بعد رفض العلامة، فأرى واحدة فقط من هذه الملاحظات.


في حال كان ذلك مفيدًا للتحقيق، سأذكر أن هذا يحدث في المنتدى على:

4 إعجابات

لقد أجريت إصلاحًا لهذا هنا:

على الرغم من أنه أقل سحرًا وعقابًا للمتسللين مقارنة بالآلية القديمة، أعتقد أن الأمان والوضوح الإضافيين يستحقان ذلك.

على الهامش، لاحظت نمطًا من النتائج الإيجابية الخاطئة على Arduino وسأقوم بتعديل التعليمات المخصصة قليلاً لتصحيحها (في انتظار النشر)

3 إعجابات

شكراً جزيلاً على إصلاح الخلل، وعلى التحسينات التي أجريتموها على تعليمات اكتشاف البريد العشوائي للذكاء الاصطناعي لدينا!

سرعة استجابة مذهلة كالمعتاد من فريق Discourse!

مع خالص التقدير، بير

4 إعجابات

تم إغلاق هذا الموضوع تلقائيًا بعد 4 أيام. لم تعد الردود الجديدة مسموحًا بها.

للأسف اكتشفت أن المشكلة لا تزال تحدث حتى بعد تحديث منتدياتنا إلى إصدار يحتوي على الإصلاح المتوقع.

اكتشفت أنه في الأسبوع الماضي، كانت هناك ثلاث حالات بقيت فيها المشاركة المُعلمة مخفية وظل حساب المستخدم صامتًا على الرغم من أننا نقرنا على زر “لا، استعادة المشاركة”:

حدث هذا مع:

  • إصدار إضافة Discourse AI 4784e7fe43ff25c44df986a56f70c0c1c017a51a
  • إصدار Discourse d3a7b996992e721dd9caab60095414eaf1fc832f
إعجابَين (2)

شكراً لك يا بيرت، سألقي نظرة هذا الأسبوع وأرى ما الذي يسبب هذا.

هنا، هناك مجموعة من القصص المثيرة للاهتمام.

في حالة:

يمكنني رؤية أن المستخدم تم إسكاته عدة مرات بواسطة الذكاء الاصطناعي.

بطريقة ما رأينا التسلسل التالي:

  • تم وضع علامة على النظام
  • تم رفض العلامة
  • قام المستخدم بالتعديل
  • التقط نظام البريد العشوائي الأمر مرة أخرى
  • لم يتم إنشاء علامة لأنها ستكون “مكررة”، لذا لم يفعل النظام شيئًا بشفافية.

دعني أتحدث مع فريق تجربة الموظفين حول هذا الأمر لمعرفة كيف يمكننا حله بشكل صحيح.

نحتاج إلى السماح للذكاء الاصطناعي بوضع علامات على الأشياء مرة أخرى لأن المخادعين يمكن أن يكونوا ماكرين للغاية، لمجرد أنه كان جيدًا في البداية لا يعني أنه جيد إلى الأبد.

بيرت،

هذا، بالنسبة لي، يبدو حالة هامشية معقدة للغاية، امنحنا بعض الوقت لتصحيح الأخطاء هنا وإيجاد حل قوي للمشكلة.

العلامات المزدوجة شيء معقد للغاية.

شكرًا سام.

بالتأكيد. لا أمانع على الإطلاق في تلقي علامات إضافية لمنشور.

نعم، من الرائع أن نظام البريد العشوائي يعيد تقييم المنشورات بعد التحرير!


كان لدينا حدث إضافي للمشكلة:

إذا كان من المفيد الحصول على أمثلة إضافية للمشكلة، فقط أخبرني وسأستمر في تقديمها هنا عند اكتشافها (أقوم بشكل دوري بتشغيل استعلام مستكشف البيانات للتحقق من المنشورات المخفية والمستخدمين الصامتين نتيجة للخطأ). بخلاف ذلك، سأمتنع لأنني لا أريد إنشاء “ضوضاء” هنا إذا لم تكن ضرورية.

إعجاب واحد (1)

أعتقد أننا بخير، لدينا الآن سجل رائع، لدى @martin هذا في قائمته وسينظر فيه الأسبوع المقبل.

يمكنني التفكير في إصلاحات من نوع “ساذج” للمعالجة، لكنني أفضل معرفة ما إذا كان هناك شيء أكثر نظافة يمكننا القيام به هنا. (على سبيل المثال: إذا تم التعامل مع العلامة، فقم بإلغاء ربط العلامة يدويًا بالمنشور حتى يكون لدينا مجال لعلامة أخرى)

شكراً جزيلاً على الإبلاغ عن هذا

مرحباً بيرت،

أنا مارتن، وقد تم تكليفي بالنظر في هذه المشكلة. لقد قمت الآن بإصلاح المشكلة حيث كانت الذكاء الاصطناعي تحاول إعادة وضع علامة على منشور بريد عشوائي تم التعامل معه بالفعل، وتفشل، ثم لا تزال تقوم بإسكات المستخدم وإخفاء المنشور. لقد قمت بنشر الإصلاح لموقعك.

الحاجة الأعمق للذكاء الاصطناعي لإعادة وضع علامة على الأشياء كبريد عشوائي لا تزال موجودة، ولكن على الأقل لن ترى بعد الآن هذا السلوك المربك حيث يتم إسكات المستخدمين وإخفاء المنشورات.

يرجى إعلامي إذا كانت لديك أي مشاكل أخرى.

3 إعجابات

شكرا مارتن!

إعجاب واحد (1)

تم إغلاق هذا الموضوع تلقائيًا بعد 11 يومًا. لم يعد يُسمح بالردود الجديدة.