عند وضع علامة تلقائية على المنشورات السامة (وهو ما أريده، لأنني أريد أن يكون مجتمعي محترمًا وآمنًا)، فإنه يكون حساسًا للغاية، حيث تم وضع علامة على منشور وصف فيه شخص ما حلقة تلفزيونية بأنها “سخيفة”.
تم ضبطه على 80. لقد قمت بزيادته للتو إلى 90. ولكن لا توجد وثائق حول الحد الأقصى (أتخيل أنه 100) وما أحتاج بالضبط إلى ضبطه حتى لا يقوم بإيجابيات خاطئة بسيطة للغاية ولكنه لا يزال يحمي مجتمعي؟
مرحباً @Shauny، لقد تلقينا تقارير تفيد بأن مزود وحدة السمية الحالي في إضافة Discourse AI حساس للغاية بالنسبة لمعظم المجتمعات.
لمعالجة هذه المشكلة، جعلنا للتو من الممكن استخدام نماذج اللغة الكبيرة الجديدة كمصنفات لوسائل الإبلاغ عن المحتوى، مما سيعطي مديري المجتمعات الوسائل لتخصيص حساسية الإبلاغ لتناسب مجتمعاتهم.
ليس لدينا دليل لهذه الميزة الجديدة تمامًا حتى الآن، حيث نعمل عليها، ولكن سأقوم بالإشارة إليك هنا عندما يكون لدينا دليل لمشاركته.