 |
ملخص | Google Perspective API هي الإضافة الرسمية من Google Perspective API لمنصة Discourse |
 |
رابط المستودع | https://github.com/discourse/discourse-perspective-api |
 |
دليل التثبيت | كيفية تثبيت الإضافات في Discourse |
الميزات
ما هو Perspective API؟
من الموقع الرسمي، “Perspective هي واجهة برمجة تطبيقات (API) تسهل استضافة محادثات أفضل. تستخدم الواجهة نماذج تعلم الآلة لتقييم الأثر المحتمل لرسالة ما على المحادثة. تم تدريب هذا النموذج من خلال طلب من الناس تقييم تعليقات الإنترنت على مقياس من سامة جدًا إلى مساهمة صحية جدًا. يُعرّف السمي بأنه… تعليق وقح أو غير محترم أو غير معقول من المرجح أن يجعلك تغادر النقاش.”
ماذا يمكن لإضافة discourse-perspective-api أن تفعل؟
- تنبيه المستخدمين قبل إرسال منشور قد يكون سامًا للتأكد من رغبتهم في إرساله.
- وضع علامة تلقائية على المنشورات السامة لمراجعتها من قبل المشرفين والمسؤولين.
- فحص فئات خاصة ورسائل خاصة بحثًا عن محتوى سام (اختياري).
التكوين
كيف أحصل على مفتاح Perspective API؟
اتبع هذه التعليمات لإنشاء حساب Google Cloud والحصول على مفتاح API.
يمكن استخدام الواجهة مجانًا، إليك وثائق مرجع الواجهة.
دليل إعدادات الموقع
(مسؤول → اكتب ‘perspective’ في حقل التصفية)
الواجهة متاحة حاليًا فقط للغة الإنجليزية.
تم ضبط القيم الافتراضية لتكون مرتفعة بشكل معقول، لكن هذه الإعدادات توفر بعض المرونة لضبط عمل هذه الإضافة بدقة. جرب العرض التوضيحي المباشر في الوثائق الرسمية المرتبطة أعلاه لفهم كيفية سلوك القيم العتبية.
-
perspective_enabled:
تمكين الإضافة لتصفية المنشورات التي قد تكون سامة. -
perspective_toxicity_model:
اختر نموذج السمية لواجهة Google Perspective API. اقرأ المزيد حول كيفية تطوير هذه النماذج من خلال قراءة وثائق مرجع الواجهة.-
قياسي (standard)
يصنف التعليقات الوقحة أو غير المحترمة أو غير المعقولة التي قد تجعل الناس يغادرون النقاش. من السهل تجاوز العتبة في النموذج القياسي إذا تم استخدام كلمات نابية أو إهانات بطريقة ودية، وسيتم وضع علامة على المنشورات بسهولة. إذا اخترت عتبة عالية تبلغ 0.9، فسيضع النموذج القياسي علامة على منشورات أقل وسيأخذ إجراءات خاطئة أقل. -
سمية شديدة (تجريبي)
يستخدم هذا النموذج نفس الخوارزمية مثل النموذج القياسي، لكنه مُدرَّب على التعرف على الأمثلة التي اعتُبرت “سامة جدًا”. هذا يجعله أقل حساسية للتعليقات التي تتضمن استخدامات إيجابية للكلمات النابية مثلًا. يتم وضع علامة على المنشورات فقط عند اكتشاف حالات قصوى من السمية، ويمكن خفض العتبة لهذا النموذج إلى 0.7 كقيمة معقولة.
على سبيل المثال، سيتم وضع علامة على منشور يحتوي على
"I f*****g love you man"تحت النموذج القياسي (باستخدام القيم الافتراضية للعتبة) ولكن ليس مع نموذج السمية الشديدة. -
-
perspective_notify_posting_min_toxicity_enable:
تمكين فحص المحتوى السام المحتمل بينما يحاول المستخدم إرسال منشور، وإرسال إشعار في المحرر عندما يكتب المستخدم شيئًا سامًا.- perspective_notify_posting_min_toxicity:
إذا كانت الواجهة تعيد درجة أعلى من هذه العتبة، فإننا نبلغ المستخدم ونسأله عما إذا كان متأكدًا من رغبته في نشر محتوى سام محتمل. مستوى الثقة في سمية المنشور بين 0 و1 المستخدم لفحص السمية أثناء كتابة المستخدم للمنشور، حيث تعني الدرجة 1 سمية قصوى. يجب أن توضع علامة على المنشورات شديدة السمية فقط إذا كانت القيمة أعلى من 0.9، اعتمادًا على النموذج المستخدم. وبما أن المستخدم سيتم إخطاره قبل النشر، فيمكننا استخدام عتبة أقل قليلاً هنا مثل 0.85 لتنبيه المستخدمين مسبقًا.
- perspective_notify_posting_min_toxicity:
-
perspective_flag_post_min_toxicity_enable:
وضع علامة على المنشورات السامة المحتملة التي تم إرسالها بالفعل وإرسال رسائل لإخطار المشرفين بالمنشورات التي تم إرسالها. يتم إخطار المسؤولين/المشرفين بالمنشورات المعلّمة.- perspective_flag_post_min_toxicity:
إذا كانت الواجهة تعيد درجة أعلى من هذه العتبة، فإننا نضع علامة على المنشور ليتم مراجعته من قبل المسؤولين/المشرفين. مستوى الثقة في سمية المنشور بين 0 و1 المستخدم لفحص السمية بعد أن ينشر المستخدم، حيث تعني الدرجة 1 سمية قصوى. يجب أن توضع علامة على المنشورات شديدة السمية فقط إذا كانت القيمة أعلى من 0.9، اعتمادًا على النموذج المستخدم.
- perspective_flag_post_min_toxicity:
-
perspective_google_api_key:
مفتاح الواجهة لـ Perspective API الذي حصلت عليه بعد إكمال عملية التسجيل المذكورة أعلاه. -
perspective_check_private_message:
فحص الرسائل الخاصة ووضع علامة عليها إذا كانت سامة.
ملاحظة: سيتم إرسال محتوى الرسالة الخاصة إلى المشرفين/المسؤولين.
ينطبق أيضًا على وضع التعبئة الخلفية. -
perspective_check_secured_categories:
فحص الفئات الخاصة بحثًا عن محتوى سام بالإضافة إلى ذلك من خلال تمكين هذا الإعداد. -
perspective_backfill_posts:
استعلام السمية للمنشورات الموجودة وتسجيل النتائج في حقول مخصصة للمنشورات.
تمكين هذا الوضع يعطل الفحص المباشر للمنشورات. -
perspective_historical_inspection_period:
الفترة بالأيض لبدء تكرار استعلام جديد بعد الانتهاء من التكرار الأخير. يُستخدم فقط إذا تم تمكينperspective_backfill_posts.
لقطات الشاشة
ما يراه المستخدم عند محاولة إرسال منشور سام:
ما يراه المسؤولون/المشرفون عند إرسال منشور سام:
سجل التغييرات
المهام القادمة
شكرًا كبيرًا إلى @fantasticfears لإنشاء هذه الإضافة!