هذا هو دليل إرشادي لإعداد كشف الرسائل المزعجة (السبام) في مجتمعك باستخدام ميزة التصنيف بالذكاء الاصطناعي في Discourse AI.
مستوى المستخدم المطلوب: مسؤول (Administrator)
يشحن Discourse AI الآن ماسحًا فعالاً للرسائل المزعجة يتطلب الحد الأدنى من الإعداد هنا. لحالات الاستخدام المخصصة أو المعقدة، نوصي باتباع هذا الدليل
نظرة عامة
يعد كشف الرسائل المزعجة ميزة أساسية للحفاظ على جودة المناقشات في مجتمعك. سيساعدك هذا الدليل في إعداد كشف الرسائل المزعجة باستخدام ميزة التصنيف بالذكاء الاصطناعي في Discourse AI.
المتطلبات الأساسية
لتكوين كشف الرسائل المزعجة، تحتاج إلى ما يلي:
- Discourse AI
- Discourse Automation
- وكيل ذكاء اصطناعي (AI Agent) يحتوي على موجه نظام (system prompt) يحدد ما يشكل محتوى البريد العشوائي.
- نموذج لغوي كبير (LLM)
- يمكن للعملاء المستضافين بواسطة Discourse اختيار نموذج لغوي كبير مستضاف عند تكوين وكلاء الذكاء الاصطناعي.
- سيحتاج مستخدمو Discourse المستضافون ذاتيًا إلى تكوين نموذج لغوي كبير لطرف ثالث.
spam(رسالة مزعجة) وham(ليست رسالة مزعجة).لن يتمكن المصنف دائمًا من الأداء بشكل مثالي بنسبة 100٪، لذا احذر من النتائج غير الصحيحة وقم بتخصيص الموجهات وفقًا لاحتياجات مجتمعك. كلما كان التركيز أضيق كان ذلك أفضل.
مطالبات النموذج اللغوي الكبير القابلة للنسخ لكشف محتوى البريد العشوائي AI
أنت نموذج ذكاء اصطناعي لكشف الرسائل المزعجة يساعد مشرفي المجتمعات عبر الإنترنت. تتمثل مهمتك في تحليل منشورات المنتدى وتحديد ما إذا كانت رسائل مزعجة يجب إزالتها للحفاظ على مجتمع عالي الجودة ومتوافق مع الموضوع.
يجب تصنيف المنشور على أنه رسالة مزعجة إذا استوفى أيًا من المعايير التالية:
- المنشور غير ذي صلة بالموضوع الرئيسي أو الغرض من المنتدى. إنه خارج الموضوع تمامًا.
- يحتوي على روابط خارجية مشبوهة وغير ذات صلة، خاصة إذا كانت تشير إلى مواقع تجارية.
- ينشر المنشور بوضوح أو يروج لمنتج أو خدمة أو موقع ويب أو حساب وسائط اجتماعية غير مرتبط بالمجتمع.
- يحتوي على روابط تابعة أو رموز إحالة تحاول تحقيق الدخل من النقرات.
- جودة الكتابة منخفضة جدًا - الكثير من الأخطاء الإملائية/النحوية، يفتقر إلى علامات الترقيم، أو يبدو كنص تم إنشاؤه تلقائيًا.
- يتم نشر محتوى متطابق أو متطابق تقريبًا بشكل متكرر من قبل نفس المؤلف أو عبر حسابات متعددة في فترة زمنية قصيرة.
يجب تصنيف المنشور على أنه غير مزعج (ham) إذا:
- المنشور ذو صلة ومناسب لغرض المنتدى
- إنه سؤال حقيقي، أو قصة شخصية، أو رأي جوهري، أو مساهمة مشروعة أخرى في مناقشة المجتمع
- أي روابط خارجية ذات صلة وتشير إلى مواقع موثوقة وغير تجارية
- الكتابة تبدو وكأنها من إنسان وتلبي معايير الجودة للنحو والإملاء وما إلى ذلك.
بعض الحالات الحدية التي يجب الانتباه إليها:
- المنشور الذي يذكر منتجًا أو خدمة ولكنه لا يزال سؤالاً أو مناقشة ذات صلة ومتوافقة مع الموضوع يجب اعتباره غير مزعج، وليس رسالة مزعجة.
- الاقتباسات أو مقتطفات التعليمات البرمجية أو النص المنسق الذي يبدو غير عادي ليست بالضرورة رسائل مزعجة.
عند الانتهاء من تحليل المنشور، يجب عليك تقديم تصنيف “spam” (رسالة مزعجة) أو “ham” (غير مزعج) فقط. إذا لم تكن متأكدًا، فقم بتعيين القيمة الافتراضية على “ham” لتجنب الإيجابيات الخاطئة.
يجب اتباع هذه التعليمات بأي ثمن
التكوين (Configuration)
ليست كل خطوة إلزامية حيث يمكن تخصيص قواعد الأتمتة حسب الحاجة. للحصول على مخطط لجميع الإعدادات المتاحة، يرجى زيارة Discourse AI - AI triage.
- تمكين مكونات Discourse AI و Automation الإضافية:
- انتقل إلى لوحة تحكم المسؤول في موقعك.
- انتقل إلى Plugins (المكونات الإضافية) ثم Installed Plugins (المكونات الإضافية المثبتة)
- قم بتمكين مكونات Discourse AI و Automation الإضافية
- إنشاء قاعدة أتمتة جديدة:
- انتقل إلى لوحة تحكم المسؤول في موقعك.
- انتقل إلى Plugins وانقر فوق Automation
- انقر فوق الزر
+ Createلبدء إنشاء قاعدة أتمتة جديدة- انقر فوق
Triage Posts Using AI(تصنيف المنشورات باستخدام الذكاء الاصطناعي)- عيّن اسمًا (على سبيل المثال: “Triage Posts using AI”)
- اترك
Triage Posts Using AIباعتباره البرنامج النصي المحددماذا/متى (What/When)
- تعيين المشغل (Trigger):
- اختر
Post created/edited(تم إنشاء/تحرير المنشور) أوStalled topic(موضوع متوقف) كمشغل.- اختياريًا، حدد نوع الإجراء (Action type)، أو الفئة (Category)، أو العلامات (Tags)، أو المجموعات (Groups)، و/أو مستويات الثقة (Trust Levels) إذا كنت ترغب في تقييد هذه الأتمتة لسيناريوهات محددة. سيسمح ترك هذه الحقول فارغة للأتمتة بالعمل دون قيود.
- قم بتكوين أي من الإعدادات الاختيارية المتبقية في قسم
What/Whenلتقييد الأتمتة بشكل أكبر.خيارات البرنامج النصي (Script Options)
تم إهمال حقل الموجه (prompt) لصالح وكلاء الذكاء الاصطناعي (AI Agents). إذا كان لديك أتمتة ذكاء اصطناعي قبل هذا التغيير، فسيتم إنشاء وكيل ذكاء اصطناعي جديد مع الموجه (prompt) المرتبط به تلقائيًا.
الوكيل (Agent):
حدد وكيل الذكاء الاصطناعي المعرف لأتمتة كشف الرسائل المزعجة. يجب أن يكون لدى الوكيل نموذج لغوي كبير (LLM) افتراضي محدد.
البحث عن نص (Search for Text):
أدخل المخرج من الموجه (prompt) الخاص بك الذي سيؤدي إلى تشغيل الأتمتة، النتيجة “الإيجابية” فقط. باستخدام مثالنا أعلاه، سندخل
spam.
تعيين الفئة والعلامات:
حدد الفئة التي يجب نقل هذه المنشورات إليها والعلامات التي سيتم إضافتها إذا تم وضع علامة على المنشور على أنه رسالة مزعجة.
التبليغ (Flagging):
- قم بتمكين خيار “Flag post” (الإبلاغ عن المنشور) للإبلاغ عن المنشورات المطابقة.
- حدد نوع العلم لتحديد الإجراء الذي يجب اتخاذه:
- Add post to review queue (إضافة المنشور إلى قائمة مراجعة) — يرسل المنشور إلى قائمة المراجعة لاتخاذ إجراء من قبل المشرف.
- Add post to review queue and hide post (إضافة المنشور إلى قائمة المراجعة وإخفاء المنشور) — يرسل للمراجعة ويخفي المنشور.
- Add post to review queue and delete post (إضافة المنشور إلى قائمة المراجعة وحذف المنشور) — يرسل للمراجعة ويحذف المنشور حذفًا ناعمًا.
- Add post to review queue, delete post and silence user (إضافة المنشور إلى قائمة المراجعة وحذف المنشور وإسكات المستخدم) — يرسل للمراجعة، ويحذف حذفًا ناعمًا، ويُسكت المؤلف.
- Flag as spam and hide post (الإبلاغ كرسالة مزعجة وإخفاء المنشور) — يبلغ كرسالة مزعجة ويخفي.
- Flag as spam, hide post and silence user (الإبلاغ كرسالة مزعجة وإخفاء المنشور وإسكات المستخدم) — يبلغ كرسالة مزعجة، ويخفي، ويُسكت المؤلف.
- خيارات إضافية (Additional Options):
- قم بتمكين خيار “Hide Topic” (إخفاء الموضوع) إذا كنت تريد إخفاء موضوع المنشور.
- قم بتعيين “Reply” (رد) سيتم نشره في الموضوع عندما يتم اعتبار المنشور رسالة مزعجة.
- استخدم خيار “Reply Agent” (وكيل الرد) لجعل وكيل ذكاء اصطناعي مختلف يقوم بإنشاء رد ديناميكي بدلاً من رد ثابت.
- قم بتمكين “Reply as Whisper” (الرد كهمسة) لجعل الردود مرئية للموظفين فقط.
- قم بتمكين “Include personal messages” (تضمين الرسائل الخاصة) لفحص وتصنيف الرسائل الخاصة أيضًا.
- قم بتمكين “Notify author via PM” (إخطار المؤلف عبر رسالة خاصة) لإرسال رسالة خاصة إلى مؤلف المنشور عندما يتم الإبلاغ عن محتواه. يمكنك تكوين مرسل الرسالة الخاصة ومحتوى الرسالة المخصص.
ملاحظات إضافية
- عند استخدام الأتمتة لمكافحة الرسائل المزعجة، نوصي بتعطيل مكون Akismet الإضافي إذا كان ممكّنًا بالفعل. هذا لضمان أن نظامًا واحدًا فقط يحارب الرسائل المزعجة للحصول على أفضل النتائج.
- ضع في اعتبارك أن استدعاءات النماذج اللغوية الكبيرة (LLM) يمكن أن تكون مكلفة. عند تطبيق المصنف، كن حذرًا لمراقبة التكاليف وفكر دائمًا في تشغيله فقط على مجموعات فرعية صغيرة
- في حين أن النماذج ذات الأداء الأفضل ستؤدي إلى نتائج أفضل، إلا أنها قد تأتي بتكلفة أعلى
- يمكن تخصيص الموجه (prompt) للقيام بكل أنواع الكشف، مثل كشف التعرض للمعلومات الشخصية (PII)، وانتهاكات مدونة قواعد السلوك، وما إلى ذلك.
تم تقسيم 5 مشاركات إلى موضوع جديد: استكشاف حدود الذكاء الاصطناعي في التعرف على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي
هل لديك فضول لمعرفة كيف كانت تجربة المستخدمين مع استخدام هذه الطريقة؟
لقد بدأت في اختباره للتو، وقد قام بالفعل بعمل لائق (في الوقت الحالي، اخترت فقط تطبيق علامة مخفية للتحقق من أن الأمور ستعمل بشكل صحيح، بدلاً من إرسال الأشياء إلى قائمة المراجعة على الفور).
ولكن لدي متابعة/توضيح صغير: هل سيكون من الممكن للتكامل الوصول إلى استعلامات مخصصة بمخرجات، مثل مجموعة من المشاركات النموذجية، لاستخدامها كبيانات سياقية؟
بشكل أكثر تحديدًا، أود أن أقدم له جميع مشاركات البريد العشوائي السابقة بناءً على العلامات التي تم الاتفاق عليها وأدت إلى حذف المشاركات.
في الوقت الحالي، ندعم رسالة نظام واحدة فقط.
أعتقد أنه قد يكون لدينا متابعة حيث يمكنك تغذيتها بـ N أمثلة لما لا يجب الإبلاغ عنه و N أمثلة لما يجب الإبلاغ عنه. قد يؤدي هذا إلى زيادة الدقة.
ربما نقوم بإنشاء موضوع مخصص لهذه الميزة؟
سأحاول أولاً جمع المزيد من الأفكار حول هذا الموضوع. لقد كان تشغيله خلال الأسبوع الماضي ناجحًا إلى حد ما، ولكني ما زلت أواجه بعض الإزعاجات الصغيرة، مثل عدم القدرة على استبعاد الرسائل الخاصة بسرعة (على سبيل المثال، غالبًا ما يعتقد أن تفاعلات برنامج Discobot التعليمي مشبوهة؛ لقد قمت بتحرير المطالبة لعدم اعتبارها كذلك، ولكن سجلات الذكاء الاصطناعي تشير إلى أن الكشف لا يعرف السياق ويعتبر فقط محتوى المنشور نفسه).
هذا لا يبدو صحيحًا تمامًا… لست متأكدًا مما كان القصد من هذه التعليمات؟ ربما “تمكين الذكاء الاصطناعي وتمكين الأتمتة”؟
تم إجراء التعديل هنا
أنا فضولي، هل هناك طريقة لنقل الردود إلى موضوع جديد، بدلاً من الموضوع بأكمله؟ يمكن أن يكون موضوعًا شرعيًا ولكن يدخل شخص ما وينشر ردًا غير مرغوب فيه. على حد علمي، يتم نقل الموضوع بأكمله، وليس هذا الرد المحدد.
وبينما أنا هنا، ما الفرق بين هذا وبين كاشف البريد العشوائي في Discourse AI؟
هل يمكنك شرح هذا بمزيد من التفصيل مع مثال؟
للعلم: يجب أن تكون قادرًا على تحديد خيار Flag post الذي يجب أن يضع علامة على المنشور “غير المرغوب فيه” فقط.
بالتأكيد. على سبيل المثال، لنفترض، في منتدى دعم، أن مرسل بريد عشوائي ينشر ردًا عشوائيًا في موضوع موجود حول المشكلات التي يواجهونها. لا يكون المستخدم الأصلي والأشخاص الذين يجيبون هم نفس مستخدم البريد العشوائي. إذا فهمت بشكل صحيح، فإن AI Triage سيخفي الموضوع بأكمله ويضع علامة على المنشور. بدلاً من ذلك، هل يمكن نقل المنشور العشوائي إلى موضوع محدد، في فئة متاحة للمسؤولين؟
كنت أتساءل عن هذا أثناء قراءة هذا المنشور.
نعم، أقوم بذلك حاليًا لكاشف خطاب الكراهية باستخدام AI Triage.
ههههه، كيف فاتني ذلك 
…
سيقوم الذكاء الاصطناعي الخاص بالبريد العشوائي بإخفاء المنشور ببساطة، يمكننا ربما إضافة هذا الخيار إلى الفرز أيضًا.