هذا دليل لإعداد اكتشاف المحتوى غير اللائق (NSFW) في مجتمعك باستخدام أتمتة Discourse AI لتحديد الصور والنصوص غير الملائمة والإشراف عليها.
مستوى المستخدم المطلوب: مسؤول
إعداد اكتشاف المحتوى غير اللائق (NSFW) في مجتمعك
اكتشف تلقائيًا المحتوى غير اللائق (NSFW - Not Safe for Work) وقم بالإشراف عليه في مجتمع Discourse الخاص بك باستخدام الأتمتة المدعومة بالذكاء الاصطناعي. سيساعدك هذا الدليل في تكوين الكشف الآلي لكل من الصور والنصوص غير الملائمة، مما يتيح لك الحفاظ على معايير المجتمع بأقل قدر من التدخل اليدوي.
ملخص
تغطي هذه الوثائق تكوين أتمتة مصنف منشورات Discourse AI من أجل:
- اكتشاف صور NSFW باستخدام نماذج الذكاء الاصطناعي التي تدعم الرؤية الحاسوبية
- تحديد المحتوى واللغة غير الملائمة
- وضع علامات وتصنيف وإجراء الإشراف التلقائي على المنشورات الإشكالية
- إعداد استجابات مخصصة وإجراءات الإشراف
تستخدم الأتمتة النماذج اللغوية الكبيرة (LLMs) لتحليل محتوى المنشور وتتخذ إجراءات محددة مسبقًا عند اكتشاف مواد NSFW.
المتطلبات الأساسية
قبل إعداد اكتشاف NSFW، تأكد من تمكين ما يلي:
- إضافة Discourse AI: الإضافة الأساسية لوظائف الذكاء الاصطناعي
- إضافة Discourse Automation: مطلوبة لإنشاء قواعد آلية
- العميل (Agent): العميل (Agent) مع موجه نظام يحدد ما يشكل محتوى NSFW. استخدم لغة مميزة للتصنيفات الإيجابية والسلبية لتجنب الارتباك.
- نموذج لغوي كبير يدعم الرؤية الحاسوبية (Vision-enabled LLM): مطلوب فقط لاكتشاف الصور؛ تعمل النماذج اللغوية الكبيرة القياسية لاكتشاف النصوص فقط.
- يمكن للعملاء المستضافين من Discourse تحديد نموذج CDCK المستضاف الصغير (CDCK Hosted Small LLM) عند تكوين العملاء.
- سيحتاج المستخدمون الذين يستضيفون Discourse ذاتيًا إلى تكوين نموذج لغوي كبير لطرف ثالث.
أمثلة للموجهات (Prompts):
لاكتشاف الصور:
أنت روبوت متخصص في تصنيف الصور. أجب فقط بـ NSFW أو SAFE، ولا شيء آخر. NSFW هو مواد إباحية أو مشاهد دموية، وSAFE هو كل شيء آخر. عند الشك، أجب بـ SAFE.
لاكتشاف النصوص:
أنت نظام متقدم للإشراف على المحتوى بالذكاء الاصطناعي مصمم لفرز المنشورات التي ينشئها المستخدمون. مهمتك هي اكتشاف والإبلاغ عن أي محتوى يتضمن لغة بذيئة، أو مصطلحات غير لائقة، أو محتوى غير لائق (NSFW).
يشمل محتوى NSFW المحتوى الجنسي الصريح، أو العنف، أو خطاب الكراهية، أو اللغة الصريحة، أو التمييز، أو الإشارات إلى إيذاء الذات، أو الأنشطة غير القانونية.
أجب بكلمة واحدة بالضبط:
* "SAFE": المنشور مناسب ولا يحتوي على محتوى سيئ أو NSFW
* "NSFW": إذا تم اكتشاف محتوى سيئ أو غير لائق أو NSFW
كن واعيًا للسياق وتجنب الإيجابيات الكاذبة.
خطوات التكوين
تمكين الإضافات المطلوبة
- انتقل إلى لوحة الإدارة الخاصة بموقعك
- اذهب إلى Plugins > Installed Plugins
- قم بتمكين كل من إضافتي Discourse AI و Automation
إنشاء قاعدة الأتمتة
- في لوحة الإدارة، انتقل إلى Plugins > Automation
- انقر على + Create لبدء إنشاء قاعدة أتمتة جديدة
- اختر Triage Posts Using AI
- قم بتعيين اسم وصفي (مثل “اكتشاف محتوى NSFW”)
تكوين المشغلات (Triggers) والقيود (Restrictions)
تعيين المشغل:
- اختر Post created/edited كمشغل
- اختياريًا، حدد نوع الإجراء (Action type)، الفئة (Category)، العلامات (Tags)، المجموعات (Groups)، أو مستويات الثقة (Trust Levels) لتحديد نطاق الأتمتة
- اترك الحقول فارغة لتطبيق الأتمتة على مستوى الموقع بالكامل
قيود اختيارية:
قم بتكوين إعدادات إضافية في قسم “What/When” (ماذا/متى) لتقييد نطاق الأتمتة بشكل أكبر، مثل استهداف المنشورات الأولى فقط من المستخدمين الجدد.
تكوين تصنيف الذكاء الاصطناعي
تم إهمال حقل الموجه (system prompt) لصالح العملاء (Agents). إذا كان لديك أتمتة ذكاء اصطناعي قبل هذا التغيير، فسيتم إنشاء عميل جديد تلقائيًا بالموجه المرتبط.
العميل (Agent):
حدد العميل المعرف لأتمتة اكتشاف NSFW.
النص المطلوب البحث عنه (Search text):
أدخل الإخراج الدقيق من الموجه الخاص بك الذي يؤدي إلى تشغيل إجراءات الأتمتة. باستخدام الأمثلة المذكورة أعلاه، أدخل NSFW.
تحديد إجراءات الإشراف
التصنيف ووضع العلامات:
- حدد الفئة التي يجب نقل المنشورات التي تم الإبلاغ عنها إليها
- حدد العلامات التي سيتم إضافتها إلى المحتوى المكتشف NSFW
خيارات الإبلاغ (Flagging options):
- اختر نوع العلم: بريد عشوائي (إخفاء تلقائي) أو قائمة مراجعة (مراجعة يدوية)
- قم بتمكين “Hide Topic” لإخفاء المحتوى الذي تم الإبلاغ عنه تلقائيًا
الاستجابات الآلية:
- حدد مستخدمًا للردود على النظام
- أنشئ رسالة مخصصة تشرح سبب وضع علامة على المنشور
- استخدم عميل الذكاء الاصطناعي اختياريًا للحصول على ردود ديناميكية
محاذير
- ضع في اعتبارك أن استدعاءات النماذج اللغوية الكبيرة يمكن أن تكون مكلفة. عند تطبيق المصنف، كن حذرًا لمراقبة التكاليف وفكر دائمًا في تشغيله فقط على مجموعات صغيرة.
- في حين أن النماذج ذات الأداء الأفضل، مثل GPT-4o، ستحقق نتائج أفضل، فقد يأتي ذلك بتكلفة أعلى. ومع ذلك، فقد شهدنا انخفاض التكلفة بمرور الوقت حيث أصبحت النماذج اللغوية الكبيرة أفضل وأرخص.
استخدامات أخرى
يمكن تخصيص الموجه لأداء جميع أنواع الاكتشاف، مثل الكشف عن تسرب المعلومات الشخصية (PII) والكشف عن البريد العشوائي. نود أن نعرف كيف تستخدم هذه الأتمتة لإفادة مجتمعك!