يغطي هذا الموضوع تكوين ميزة السمية لمكون Discourse AI الإضافي.
مستوى المستخدم المطلوب: مسؤول
يمكن لوحدات السمية تصنيف درجة السمية لكل منشور ورسالة دردشة جديدة تلقائيًا في مثيل Discourse الخاص بك. يمكنك أيضًا تمكين وضع علامة تلقائية على المحتوى الذي يتجاوز حدًا معينًا.
يتم تخزين التصنيفات في قاعدة البيانات، لذا يمكنك تمكين المكون الإضافي واستخدام مستكشف البيانات (Data Explorer) لإنشاء تقارير عن التصنيف الذي يحدث للمحتوى الجديد في Discourse على الفور. سنقوم قريبًا بشحن بعض استعلامات مستكشف البيانات الافتراضية مع المكون الإضافي لتسهيل ذلك.
الإعدادات
ai_toxicity_enabled: تمكين أو تعطيل الوحدة.
ai_toxicity_inference_service_api_endpoint: عنوان URL حيث تعمل واجهة برمجة التطبيقات (API) لوحدة السمية. إذا كنت تستخدم استضافة CDCK، فسيتم التعامل مع هذا تلقائيًا. إذا كنت تستضيف بنفسك، تحقق من دليل الاستضافة الذاتية.
ai_toxicity_inference_service_api_key: مفتاح واجهة برمجة التطبيقات (API) لواجهة برمجة التطبيقات (API) للسمية المكونة أعلاه. إذا كنت تستخدم استضافة CDCK، فسيتم التعامل مع هذا تلقائيًا. إذا كنت تستضيف بنفسك، تحقق من دليل الاستضافة الذاتية.
ai_toxicity_inference_service_api_model: ai_toxicity_inference_service_api_model: نقدم ثلاثة نماذج مختلفة:
original(أصلي)،unbiased(غير متحيز)، وmultilingual(متعدد اللغات). يوصى باستخدامunbiasedبدلاً منoriginalلأنه سيحاول عدم نقل التحيزات التي أدخلتها مواد التدريب إلى التصنيف. بالنسبة للمجتمعات متعددة اللغات، يدعم النموذج الأخير الإيطالية والفرنسية والروسية والبرتغالية والإسبانية والتركية.ai_toxicity_flag_automatically: وضع علامة تلقائية على المنشورات/رسائل الدردشة عندما يتجاوز التصنيف لفئة معينة الحد المحدد. الفئات المتاحة هي
toxicity(سمية)،severe_toxicity(سمية شديدة)،obscene(بذيء)،identity_attack(هجوم على الهوية)،insult(إهانة)،threat(تهديد)، وsexual_explicit(صريح جنسيًا). يوجد إعدادai_toxicity_flag_threshold_${category}لكل منها.ai_toxicity_groups_bypass: لن يتم تصنيف منشورات المستخدمين في هذه المجموعات بواسطة وحدة السمية. يتضمن افتراضيًا المستخدمين الإداريين.
موارد إضافية
10 إعجابات