إعداد نظام كشف البريد العشوائي في مجتمعك

\u003e :bookmark: هذا دليل إرشادي لإعداد اكتشاف البريد العشوائي في مجتمعك باستخدام Discourse AI - AI triage.
\u003e
\u003e :person_raising_hand: مستوى المستخدم المطلوب: مسؤول

\u003e:warning: يقوم Discourse AI الآن بتوفير ماسح ضوئي فعال للبريد العشوائي يتطلب الحد الأدنى من الإعداد. للحالات المخصصة أو المعقدة، نوصي باتباع هذا الدليل.

نظرة عامة

يعد اكتشاف البريد العشوائي ميزة أساسية للحفاظ على جودة المناقشات في مجتمعك. سيساعدك هذا الدليل في إعداد اكتشاف البريد العشوائي باستخدام Discourse AI - AI triage.

المتطلبات الأساسية

لتكوين اكتشاف البريد العشوائي، تحتاج إلى ما يلي:

  • Discourse AI
  • Discourse Automation
  • Persona مع موجه نظام يحدد ما يشكل محتوى البريد العشوائي.
  • LLM (نموذج لغوي كبير)
    • يمكن للعملاء الذين يستضيفون Discourse اختيار LLM الصغير المستضاف من CDCK عند تكوين Personas.
    • سيحتاج مستخدمو Discourse المستضافون ذاتيًا إلى تكوين LLM تابع لجهة خارجية.

\u003e :warning: عند كتابة الموجه، عند الاختيار بين البريد العشوائي وغير البريد العشوائي - تجنب استخدام لغة متشابهة للنتيجة النهائية. في هذا المثال، نستخدم spam و ham (لغير البريد العشوائي).
\u003e
\u003e لن يقوم المصنف دائمًا بأداء مثالي بنسبة 100٪، لذا كن حذرًا من النتائج غير الصحيحة وقم بتخصيص الموجهات وفقًا لاحتياجات مجتمعك. كلما كان التركيز أضيق كان ذلك أفضل.

\u003cdetails class=‘ai-quote’\u003e
\u003csummary\u003e
\u003cspan\u003eموجهات LLM قابلة للنسخ لاكتشاف محتوى البريد العشوائي\u003c/span\u003e
\u003cspan title=‘محادثة مع الذكاء الاصطناعي’\u003eAI\u003c/span\u003e
\u003c/summary\u003e
أنت نموذج ذكاء اصطناعي لاكتشاف البريد العشوائي يساعد مشرفي المجتمعات عبر الإنترنت. مهمتك هي تحليل منشورات المنتدى وتحديد ما إذا كانت بريدًا عشوائيًا يجب إزالته للحفاظ على مجتمع عالي الجودة وفي صلب الموضوع.
يجب تصنيف المنشور على أنه بريد عشوائي إذا استوفى أيًا من هذه المعايير:

  • المنشور غير ذي صلة بالموضوع الرئيسي أو الغرض من المنتدى. إنه خارج الموضوع تمامًا.
  • يحتوي على روابط خارجية مشبوهة وغير ذات صلة، خاصة إذا كانت تشير إلى مواقع تجارية.
  • المنشور يروج بوضوح أو يعلن عن منتج أو خدمة أو موقع ويب أو حساب وسائط اجتماعية غير مرتبط بالمجتمع.
  • يحتوي على روابط تابعة أو رموز إحالة تحاول تحقيق الدخل من النقرات.
  • جودة الكتابة منخفضة جدًا - الكثير من الأخطاء الإملائية/النحوية، يفتقر إلى علامات الترقيم، أو يبدو كنص تم إنشاؤه تلقائيًا.
  • يتم نشر محتوى متطابق أو شبه متطابق بشكل متكرر من قبل نفس المؤلف أو عبر حسابات متعددة في فترة زمنية قصيرة.
    يجب تصنيف المنشور على أنه “ham” (شرعي) إذا:
  • المنشور في صلب الموضوع وذو صلة بغرض المنتدى
  • إنه سؤال حقيقي، أو قصة شخصية، أو رأي جوهري، أو مساهمة شرعية أخرى في مناقشة المجتمع
  • أي روابط خارجية ذات صلة وتشير إلى مواقع مرموقة وغير تجارية
  • تبدو الكتابة من قبل إنسان وتفي بمعايير الجودة للنحو والإملاء وما إلى ذلك.
    بعض الحالات الاستثنائية التي يجب الانتباه إليها:
  • المنشور الذي يذكر منتجًا أو خدمة ولكنه لا يزال سؤالًا أو مناقشة ذات صلة وفي صلب الموضوع يجب اعتباره “ham”، وليس بريدًا عشوائيًا.
  • الاقتباسات، أو عينات التعليمات البرمجية، أو النصوص المنسقة التي تبدو غير عادية ليست بالضرورة بريدًا عشوائيًا.
    عند الانتهاء من تحليل المنشور، يجب عليك فقط تقديم تصنيف إما “spam” أو “ham”. إذا كنت غير متأكد، فارجع إلى “ham” لتجنب النتائج الإيجابية الخاطئة.
    يجب اتباع هذه التعليمات بأي ثمن

\u003c/details\u003e

التكوين

\u003e :information_source: ليست كل خطوة إلزامية حيث يمكن تخصيص قواعد الأتمتة حسب الحاجة. للحصول على مخطط لجميع الإعدادات المتاحة، يرجى زيارة Discourse AI - AI triage.

  1. تمكين المكون الإضافي Discourse AI و Automation:
  • انتقل إلى لوحة تحكم المسؤول في موقعك.
  • انتقل إلى Plugins ثم Installed Plugins
  • قم بتمكين مكونات Discourse AI و Automation الإضافية
  1. إنشاء قاعدة أتمتة جديدة:
  • انتقل إلى لوحة تحكم المسؤول في موقعك.
  • انتقل إلى Plugins وانقر فوق Automation
  • انقر فوق الزر + Create لبدء إنشاء قاعدة أتمتة جديدة
  • انقر فوق Triage Posts Using AI
  • قم بتعيين الاسم (على سبيل المثال، “Triage Posts using AI”)
  • اترك Triage Posts Using AI كبرنامج نصي محدد

ماذا/متى

  1. تعيين المشغل:
  • اختر Post created/edited كمشغل.
  • اختياريًا، حدد نوع الإجراء، أو الفئة، أو العلامات، أو المجموعات، و/أو مستويات الثقة إذا كنت ترغب في تقييد هذه الأتمتة لسيناريوهات محددة. سيسمح ترك هذه الحقول فارغة للأتمتة بالعمل دون قيود.
  • قم بتكوين أي من الإعدادات الاختيارية المتبقية في قسم What/When لتقييد الأتمتة بشكل أكبر.

خيارات البرنامج النصي

\u003e :spiral_notepad: تم إهمال حقل موجه النظام لصالح Personas. إذا كان لديك أتمتة AI قبل هذا التغيير، فسيتم إنشاء Persona جديدة مع موجه النظام المرتبط تلقائيًا.

  1. Persona:
    حدد Persona المعرفة لأتمتة اكتشاف البريد العشوائي.

  2. البحث عن نص:
    أدخل الإخراج من موجهك الذي سيؤدي إلى تشغيل الأتمتة، فقط النتيجة “الإيجابية”. باستخدام مثالنا أعلاه، سندخل spam.

  1. تعيين الفئة والعلامات:
    حدد الفئة التي يجب نقل هذه المنشورات إليها والعلامات التي يجب إضافتها إذا تم وضع علامة على المنشور كبريد عشوائي.

  2. وضع العلامات:

  • ضع علامة على المنشور كبريد عشوائي أو للمراجعة.
  • حدد نوع علامة لتحديد الإجراء الذي قد ترغب في اتخاذه.
  1. خيارات إضافية:
  • قم بتمكين خيار “Hide Topic” إذا كنت تريد إخفاء المنشور.
  • قم بتعيين “Reply” الذي سيتم نشره في الموضوع عندما يُعتبر المنشور بريدًا عشوائيًا.

ملاحظات إضافية

  • عند استخدام الأتمتة لمكافحة البريد العشوائي، نوصي بتعطيل مكون Akismet الإضافي إذا كان ممكّنًا بالفعل. هذا لضمان أن نظامًا واحدًا فقط يحارب البريد العشوائي للحصول على أفضل النتائج.
  • ضع في اعتبارك أن مكالمات LLM يمكن أن تكون مكلفة. عند تطبيق مصنف، كن حذرًا لمراقبة التكاليف وفكر دائمًا في تشغيله فقط على مجموعات فرعية صغيرة.
  • بينما ستؤدي النماذج ذات الأداء الأفضل، مثل Claude-3-Opus، إلى نتائج أفضل، إلا أنها قد تأتي بتكلفة أعلى.
  • يمكن تخصيص الموجه للقيام بجميع أنواع الاكتشاف، مثل كشف المعلومات الشخصية، وانتهاكات قواعد السلوك، وما إلى ذلك.
11 إعجابًا

تم تقسيم 5 مشاركات إلى موضوع جديد: استكشاف حدود الذكاء الاصطناعي في التعرف على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي

هل لديك فضول لمعرفة كيف كانت تجربة المستخدمين مع استخدام هذه الطريقة؟

إعجاب واحد (1)

لقد بدأت في اختباره للتو، وقد قام بالفعل بعمل لائق (في الوقت الحالي، اخترت فقط تطبيق علامة مخفية للتحقق من أن الأمور ستعمل بشكل صحيح، بدلاً من إرسال الأشياء إلى قائمة المراجعة على الفور).

ولكن لدي متابعة/توضيح صغير: هل سيكون من الممكن للتكامل الوصول إلى استعلامات مخصصة بمخرجات، مثل مجموعة من المشاركات النموذجية، لاستخدامها كبيانات سياقية؟

بشكل أكثر تحديدًا، أود أن أقدم له جميع مشاركات البريد العشوائي السابقة بناءً على العلامات التي تم الاتفاق عليها وأدت إلى حذف المشاركات.

إعجاب واحد (1)

في الوقت الحالي، ندعم رسالة نظام واحدة فقط.
أعتقد أنه قد يكون لدينا متابعة حيث يمكنك تغذيتها بـ N أمثلة لما لا يجب الإبلاغ عنه و N أمثلة لما يجب الإبلاغ عنه. قد يؤدي هذا إلى زيادة الدقة.
ربما نقوم بإنشاء موضوع مخصص لهذه الميزة؟

إعجاب واحد (1)

سأحاول أولاً جمع المزيد من الأفكار حول هذا الموضوع. لقد كان تشغيله خلال الأسبوع الماضي ناجحًا إلى حد ما، ولكني ما زلت أواجه بعض الإزعاجات الصغيرة، مثل عدم القدرة على استبعاد الرسائل الخاصة بسرعة (على سبيل المثال، غالبًا ما يعتقد أن تفاعلات برنامج Discobot التعليمي مشبوهة؛ لقد قمت بتحرير المطالبة لعدم اعتبارها كذلك، ولكن سجلات الذكاء الاصطناعي تشير إلى أن الكشف لا يعرف السياق ويعتبر فقط محتوى المنشور نفسه).

إعجابَين (2)

هذا لا يبدو صحيحًا تمامًا… لست متأكدًا مما كان القصد من هذه التعليمات؟ ربما “تمكين الذكاء الاصطناعي وتمكين الأتمتة”؟

إعجاب واحد (1)

تم إجراء التعديل هنا

إعجابَين (2)

أنا فضولي، هل هناك طريقة لنقل الردود إلى موضوع جديد، بدلاً من الموضوع بأكمله؟ يمكن أن يكون موضوعًا شرعيًا ولكن يدخل شخص ما وينشر ردًا غير مرغوب فيه. على حد علمي، يتم نقل الموضوع بأكمله، وليس هذا الرد المحدد.
وبينما أنا هنا، ما الفرق بين هذا وبين كاشف البريد العشوائي في Discourse AI؟

هل يمكنك شرح هذا بمزيد من التفصيل مع مثال؟

للعلم: يجب أن تكون قادرًا على تحديد خيار Flag post الذي يجب أن يضع علامة على المنشور “غير المرغوب فيه” فقط.

إعجاب واحد (1)

بالتأكيد. على سبيل المثال، لنفترض، في منتدى دعم، أن مرسل بريد عشوائي ينشر ردًا عشوائيًا في موضوع موجود حول المشكلات التي يواجهونها. لا يكون المستخدم الأصلي والأشخاص الذين يجيبون هم نفس مستخدم البريد العشوائي. إذا فهمت بشكل صحيح، فإن AI Triage سيخفي الموضوع بأكمله ويضع علامة على المنشور. بدلاً من ذلك، هل يمكن نقل المنشور العشوائي إلى موضوع محدد، في فئة متاحة للمسؤولين؟

كنت أتساءل عن هذا أثناء قراءة هذا المنشور.

نعم، أقوم بذلك حاليًا لكاشف خطاب الكراهية باستخدام AI Triage.

ههههه، كيف فاتني ذلك :laughing:

إعجاب واحد (1)

سيقوم الذكاء الاصطناعي الخاص بالبريد العشوائي بإخفاء المنشور ببساطة، يمكننا ربما إضافة هذا الخيار إلى الفرز أيضًا.

إعجابَين (2)