Discourse Google Perspective API

[Discourse]

	الملخص	Google Perspective API هو إضافة Google Perspective API الرسمية لـ Discourse
	رابط المستودع	https://github.com/discourse/discourse-perspective-api
	دليل التثبيت	كيفية تثبيت الإضافات في Discourse

نظرًا لأن هذه إضافة #رسمية تحافظ عليها فريق Discourse، يمكن تقديم طلبات #الدعم، #المساهمة:أخطاء، #المساهمة:تجربة_مستخدم، وطلبات #المساهمة:ميزات في الفئات ذات الصلة هنا على Meta، مع وسمها بالعلامة المناسبة للإضافة. انقر على أحد الروابط أدناه لبدء واحدة.

 الدعم  خطأ  تجربة_مستخدم  ميزة

الميزات

ما هي Perspective API؟

Perspective API

من الموقع الرسمي، “Perspective هي واجهة برمجة تطبيقات تسهل استضافة محادثات أفضل. تستخدم الواجهة نماذج تعلم الآلة لتقييم التأثير المتصور الذي قد تتركه التعليق على محادثة. تم تدريب هذا النموذج عن طريق طلب من الناس تقييم تعليقات الإنترنت على مقياس من سامة جدًا إلى مساهمة صحية جدًا. السامة تُعرف بأنها… تعليق وقح أو غير محترم أو غير معقول من المرجح أن يجعلك تغادر مناقشة.”

ماذا يمكن أن تفعل إضافة discourse-perspective-api؟

• مطالبة المستخدمين بالتأكد من تقديم منشور قد يكون سامًا، قبل الإرسال.
• وضع علامة تلقائيًا على المنشورات السامة للمدققين والمسؤولين لمراجعتها.
• اختياريًا فحص الفئات الخاصة والرسائل الخاصة (PMs) لمحتوى سام

التكوين

أين أحصل على مفتاح Perspective API؟

اتبع هذه التعليمات لإنشاء حساب Google Cloud والحصول على مفتاح API.

Perspective | Developers

يمكن استخدام الواجهة البرمجية مجانًا، إليك وثائق مرجع API.

جولة في إعدادات الموقع

(مسؤول → اكتب ‘perspective’ في حقل النص المرشح)

الواجهة البرمجية متاحة حاليًا فقط للغة الإنجليزية.
تم ضبط العتبات الافتراضية لتكون عالية معقولة، لكن هذه الإعدادات توفر بعض القابلية للتخصيص لضبط دقيق لكيفية عمل هذه الإضافة. جرب العرض التوضيحي المباشر في الوثائق الرسمية المرتبطة أعلاه للحصول على فكرة عن كيفية سلوك العتبات.

• perspective_enabled:
  تمكين الإضافة لفلترة المنشورات التي قد تكون سامة.

• perspective_toxicity_model:
  اختر نموذج السمية لـ Google’s Perspective API. اقرأ المزيد عن كيفية تطوير هذه النماذج من خلال قراءة وثائق مرجع API.

  • ​standard
    ​يصنف التعليقات الوقحة أو غير المحترمة أو غير المعقولة التي من المرجح أن تجعل الناس يغادرون المناقشة. من الأسهل تجاوز العتبة في النموذج القياسي إذا تم استخدام ألفاظ نابية أو إهانات بطريقة ودودة ويتم وضع علامة على المنشورات بسهولة. إذا اخترت عتبة عالية تبلغ 0.9، فإن النموذج القياسي سيضع علامة على عدد أقل من المنشورات وستتخذ إجراءات غير صحيحة أقل.

  • severe toxicity (experimental)
    ​هذا النموذج يستخدم نفس الخوارزمية مثل النموذج القياسي، لكنه مدرب على التعرف على الأمثلة التي اعتُبرت ‘سامة جدًا’. هذا يجعله أقل حساسية للتعليقات التي تتضمن استخدامات إيجابية للألفاظ النابعية على سبيل المثال. يتم وضع علامة على المنشورات فقط عند اكتشاف حالات متطرفة من السمية ويمكن خفض العتبة لهذا النموذج حتى 0.7 كقيمة معقولة.

  على سبيل المثال، منشور يحتوي على "I f*****g love you man" سيحصل على علامة تحت نموذج standard (باستخدام العتبات الافتراضية) ولكن ليس مع نموذج severe toxicity.

• perspective_notify_posting_min_toxicity_enable:
  تمكين فحص المحتوى المحتمل أن يكون سامًا أثناء محاولة المستخدم إرسال منشور ودفع إشعار في محرر النصوص عندما يكتب المستخدم شيئًا سامًا.

  • perspective_notify_posting_min_toxicity:
    إذا أعادت الواجهة البرمجية درجة أعلى من هذه العتبة، فإننا نطلب من المستخدم التأكد من أنه يريد حقًا نشر محتوى قد يكون سامًا. مستوى الثقة لسمية المنشور بين 0 و 1 الذي يتم استخدامه لفحص السمية أثناء قيام المستخدم بتأليف منشور حيث تعني الدرجة 1 سامة للغاية. يجب أن تؤدي القيمة أعلى من 0.9 إلى وضع علامة على المنشورات شديدة السمية فقط، اعتمادًا على النموذج المستخدم. نظرًا لأن المستخدم سيتم إعلامه قبل النشر، يمكننا استخدام عتبة أقل قليلاً هنا مثل 0.85 لتنبيه المستخدمين مسبقًا.

• perspective_flag_post_min_toxicity_enable:
  وضع علامة على المنشورات السامة المحتملة التي تم إرسالها بالفعل وإرسال رسائل للإشعار بالمحررين للمنشورات التي تم إرسالها. يتم إعلام المسؤولين/المحررين بالمنشورات الموضوعة عليها علامة.

  • perspective_flag_post_min_toxicity:
    إذا أعادت الواجهة البرمجية درجة أعلى من هذه العتبة، فإننا نضع علامة على المنشور للمسؤولين/المحررين لمراجعته. مستوى الثقة لسمية المنشور بين 0 و 1 الذي يتم استخدامه لفحص السمية بعد أن قام المستخدم بنشره حيث تعني الدرجة 1 سامة للغاية. يجب أن تؤدي القيمة أعلى من 0.9 إلى وضع علامة على المنشورات شديدة السمية فقط، تختلف حسب النموذج المستخدم.

• perspective_google_api_key:
  مفتاح API لـ Perspective API الذي حصلت عليه بعد إكمال عملية التسجيل المذكورة أعلاه.

• perspective_check_private_message:
  فحص ووضع علامة على الرسائل الخاصة إذا كانت سامة.
  ملاحظة: سيتم إرسال محتوى الرسالة الخاصة إلى المحررين/المسؤولين.
  ينطبق أيضًا على وضع التعبئة الخلفية.

• perspective_check_secured_categories:
  فحص الفئات الخاصة أيضًا لمحتوى سام عن طريق تمكين هذا الإعداد.

• perspective_backfill_posts:
  استعلام السمية للمنشورات الموجودة وتسجيل النتائج في حقول مخصصة للمنشور.
  تمكين هذا الوضع يعطل الفحص عبر الإنترنت للمنشورات.

• perspective_historical_inspection_period:
  الفترة بالأيام لبدء تكرار استعلام جديد بعد الانتهاء من التكرار الأخير. يُستخدم فقط إذا تم تمكين perspective_backfill_posts.

لقطات الشاشة

ما يراه المستخدم عند محاولة إرسال منشور سام:

ما يراه المسؤولون/المحررون عند إرسال منشور سام:

سجل التغييرات

المهام المتبقية

---

شكرًا جزيلاً لـ @fantasticfears لإنشاء هذه الإضافة!

[gru (Ruslan)]

@Discourse

واجهة برمجة التطبيقات متاحة حاليًا للغة الإنجليزية فقط.

يبدو أنه تم تحديث واجهة برمجة التطبيقات وهي تدعم الآن لغات أخرى، مثل الروسية. متى سيتم التحديث لتوسيع الدعم في المكون الإضافي؟

[David_Ghost]

نفس السؤال. هل يمكن أن يعمل للغة البرتغالية، حيث إنها مدعومة حاليًا بواسطة واجهة برمجة التطبيقات؟

تعديل: لقد اختبرته ويعمل بشكل مثالي باللغة البرتغالية.

أنا أحبه.

[eisammy (Sammy)]

هل هناك أي شيء جديد بخصوص واجهة برمجة التطبيقات (API) هذه؟ أتمنى بصدق أن أعرف ما إذا كان أي شخص آخر لا يزال يستخدمها وما إذا كان لديه أي شيء ليقوله.

[Falco]

يستخدم عملاؤنا ميزة “الفرز حسب الشخصية” (Triage by Persona) في إضافة Discourse AI، والتي يمكنها القيام بكل ما تفعله هذه الميزة ولكنها تسمح بالمرونة فيما يتعلق بخصوصيات كل مجتمع.

[eisammy (Sammy)]

Gemini Flash 2.0 لم يعد كافيًا لمجتمعي، في الأساس ليس لدي أداة للسمية سوى واجهة برمجة التطبيقات هذه ولكن لا بأس سأفكر في الأمر لاحقًا.

[Falco]

@eisammy

جيميني فلاش 2.0

جيميني فلاش 2.0 أصبح متأخراً بعدة إصدارات، حاول استخدام الإصدار الحالي من جيميني فلاش.

[AquaL1te]

إشعار هام: سيتم إيقاف خدمة Perspective API رسميًا بعد عام 2026.

Perspective API

أفترض أنه يمكننا التحول إلى حلول النماذج اللغوية الكبيرة (LLM) العامة؟ تمامًا كما هو الحال مع تصفية البريد العشوائي؟ هل هناك خارطة طريق يمكنني الاشتراك فيها؟

[Falco]

@AquaL1te

هل يمكننا التحول إلى حلول نماذج اللغة الكبيرة (LLM) العامة؟

نعم، استخدم الذكاء الاصطناعي + الأتمتة كما ذُكر أعلاه

@Falco

يستخدم عملاؤنا ميزة “الفرز حسب الشخصية” (Triage by Persona) في إضافة Discourse AI، والتي يمكنها القيام بكل ما تفعله هذه الميزة ولكنها تسمح بالمرونة لخصوصيات كل مجتمع.