أبحث عن طرق لدمج الذكاء الاصطناعي في منتدى Discourse الخاص بي للمساعدة في الإشراف. لا أحتاج إلى أن يحل محل المشرفين لدي، بل أحتاج فقط إلى المساعدة في اكتشاف الأشياء التي لا يستطيع البشر رؤيتها عادةً. في بعض الأحيان، يكون ذلك لأن هذه المشكلات غير مرئية حرفياً للمشرف (مثل مرسل البريد العشوائي الذي ينشئ حسابات متعددة من نفس عنوان IP). في أحيان أخرى، تكون مرئية للمشرف، ولكن من السهل أن تكون كسولًا وتفوتك هذه الأشياء (مثل موضوع تم نشره في الفئة الخاطئة، أو موضوع ينحرف عن مساره).
هناك مهام لا حصر لها يمكن لمشرف الذكاء الاصطناعي المساعدة فيها. إليك بعض الأفكار فقط من رأسي:
مراقبة جميع المشاركات الجديدة للإشارة إلى احتمالية ما إذا كانت من مرسلي البريد العشوائي أو المستخدمين الشرعيين.
مراقبة المستخدمين الجدد ونشاطهم حتى يصلوا إلى مستوى ثقة معين.
اكتشاف المستخدمين الذين يواجهون مشاكل وينشئون حسابات جديدة بعد تعليقهم.
تحديد الموضوعات التي تم نشرها في الفئة الخاطئة، وتقديم اقتراحات للفئة التي يجب نقلها إليها.
وضع علامة على محتوى NSFW وإزالته فورًا.
تحديد متى ينحرف الحوار في موضوع عن مساره أو يجب قفله.
تحديد متى تم تناول موضوع بالفعل ويجب إعادة توجيهه.
تحديد متى أنشأ مستخدم حسابات متعددة (تسجيل دخول مستخدمين متعددين من نفس عنوان IP).
تحديد متى يقوم مستخدم بنشر مشاركة ترويجية ذاتية أو غير ذات صلة.
ناهيك عن (وهذا سيكون في اتجاه مختلف قليلاً)، هناك أوقات يمكن فيها للذكاء الاصطناعي الرد على مواضيع معينة بملف تعريف ذكاء اصطناعي مميز بوضوح. على سبيل المثال، إذا نشر شخص ما سؤالاً حول كيفية استخدام المنتدى أو مكان العثور على ميزة معينة (مثل كيفية تحديث ملفه الشخصي)، يمكن للبوت الرد بتحديد متى يكون سؤالاً يمكنه الإجابة عليه بسهولة، ثم يمكنه التدخل وشرح كيفية القيام بذلك.
أنا بالكاد أخدش السطح هنا، لكن السؤال الأساسي هو: هل أنشأ أي شخص روبوت ذكاء اصطناعي يمكنه المساعدة في هذه الأنواع من مهام الإشراف في Discourse؟
إذا لم يكن الأمر كذلك، فما الذي يعيق هذا النوع من الابتكار؟ يبدو أن هذا سيكون مفيدًا بشكل لا يصدق لمسؤولي المنتديات، وليس لاستبدال البشر (على الرغم من أن ذلك قد يكون ممكنًا في بعض الحالات)، ولكن لمساعدة البشر على أداء المهمة بشكل أفضل بكثير.
لا أعرف، لكنني أخمّن: الذكاء الاصطناعي غير موثوق به للغاية، ويمكن أن يكون سريعًا جدًا ومكلفًا للغاية.
بعض هذه الخيارات ممكنة بالفعل، على الرغم من ذلك. وهي ليست قيد الاستخدام الشائع بشكل أساسي لأن، حسنًا، الذكاء الاصطناعي غير موثوق به ويتطلب إشرافًا بشريًا.
جهاز الرد الذي يتابع كل المشاركات ويظهر عند تشغيله بالمحتوى يجب أن يكون مكلفًا من حيث الأجهزة والمال الخالص. ولكن نموذجًا يجيب على مستوى الفئة لكل بادئات الموضوع ممكن بالفعل.
ثم هناك شيء مثل مراقبة عنوان IP يسهل تغطيته بدون ذكاء اصطناعي ولكنه يمثل مشكلة حقيقية. وجود نفس عنوان IP أمر شائع جدًا.
لقد سمعت للتو عن هذا بالأمس من @Jagster (شكرًا لك، جاكي، على الإشارة إلى ذلك). لقد كنت أبحث في هذا الأمر أكثر قليلاً، وخاصة الإصدار المتقدم… وإذا كنت أقرأه بشكل صحيح، فيبدو أنه سيكون مكلفًا إلى حد ما لتنفيذ هذا، إما عن طريق امتلاك حساب استضافة Enterprise أو خادم مستضاف ذاتيًا قوي جدًا.
على أي حال، من الجيد معرفة أن هذا موجود بالفعل كخيار. يبدو أن هذا يلبي بعض المتطلبات الهامة، ولكن يمكنني التفكير في طرق أخرى كثيرة يمكن استخدامه بها. أنا متحمس لرؤية كيف سيستمر هذا في التطور في الأشهر والسنوات القادمة. هناك الكثير من الإمكانيات لهذا النوع من الأشياء!
هناك الكثير من الأشياء الإيجابية المحتملة لهذا، وكذلك الكثير من المخاطر والعيوب.
لدى Stack Exchange روبوت يعمل بالذكاء الاصطناعي يقوم بمراجعة الإجابات وسيقوم بإبلاغ المؤلف إذا بدت إجابته غير واضحة:
“كما هو مكتوب حاليًا، إجابتك غير واضحة. يرجى تعديلها لإضافة تفاصيل إضافية ستساعد الآخرين على فهم كيفية معالجة هذا السؤال المطروح. يمكنك العثور على مزيد من المعلومات حول كيفية كتابة إجابات جيدة في مركز المساعدة. - روبوت المجتمع”
يمكن أن يكون هذا النوع من المطالبات مفيدًا حقًا لإلهام شروحات أوضح وتجنب شعور الناس بالارتباك أو الإحباط أو الانزعاج من الإجابات غير الواضحة.
لا يتطلب موارد مكثفة على نسختك المستضافة ذاتيًا لأنه يمكنك ببساطة استخدام النماذج المستضافة، على سبيل المثال، openai. لذا فأنت تدفع فقط مقابل استدعاءات واجهة برمجة التطبيقات (API) للتمثيلات والدردشة.
لقد قمت ببناء تكامل مخصص لأحد العملاء باستخدام Discourse.
جمعت نشاط الإشراف السابق ودربت نموذج معالجة لغة طبيعية (NLP) للإبلاغ عن المواضيع والتعليقات التي تحتاج إلى اهتمام.
أضفت مشرف سمية تم تدريبه أيضًا من نشاط الإشراف السابق الخاص بهم.
أضفت تكاملًا للمشاعر للمساعدة في حل التعليقات بسرعة.
تم التدريب على Google Colab وتحميل النموذج على GCP لخدمة واجهات برمجة التطبيقات (APIs) من خطافات Discourse (webhooks).
أحب استخدام المنتديات لأننا جميعًا أشخاص حقيقيون لدينا اهتمام أو هدف مشترك. عندما يرد شخص ما بإجابة غير صحيحة على سؤال، فمن المؤكد أن مستخدمًا آخر سيظهر لتقديم تصحيح. أفترض أن نفس الشيء يمكن أن يحدث إذا قدم الذكاء الاصطناعي استجابة غير صحيحة، لكن الأمر ليس هو نفسه. من المفيد أيضًا لتفكيرنا الخاص قراءة كيف يتعامل الآخرون مع مشكلة ما، لقد توصلت غالبًا إلى طرق تفكير جديدة من قراءة استجابة شخص ما مدروسة جيدًا، أو تعلمت طريقة جديدة للقيام بشيء اعتقدت أنني أعرفه بالفعل.
هناك اعتبار آخر وهو احتمالية النتائج الإيجابية الخاطئة، والتي يمكن أن تنفر الناس (وتفعل ذلك!). إذا قمت بزيارة منتدى كمستخدم جديد وقامت آلة عن طريق الخطأ بتمييز/تحديد مشاركتي أو تعليقي أو أي شيء آخر، وكان من الواضح أنه لم يكن ينبغي أن يحدث، فلن أعود على الأرجح، لأنني إما سأنتقل بعيدًا عن الموقع وأنسى الأمر تمامًا، أو سأكون منزعجًا بما يكفي لعدم الاهتمام بتصحيحه.
أشعر أن الدافع لإزالة العناصر البشرية من الإشراف يتجه في الاتجاه الخاطئ. يمكن أن يكون للإشراف أحيانًا قواعد يمكن التنبؤ بها - ولدينا ميزة الكلمات المراقبة، أو مطابقة عنوان IP، على سبيل المثال، للتعامل مع الأشياء من هذا القبيل. ولكن استخدام خوارزمية للتعامل مع الأمور “الناعمة” ينتهي فقط بمطاردة لا نهاية لها للخوارزمية المثالية، مما يصرف الانتباه عن بناء مجتمع أكثر صحة حيث يمكن معالجة السلوكيات الجذرية. في نهاية المطاف، أملي هو أن يغير المستخدمون سلوكهم، وعليّ أن أؤمن بأنهم قادرون على ذلك.
الأسئلة الروتينية هي فرص للأشخاص لإجراء اتصالات بشرية، وهذه النقاط مهمة للغاية لتطوير مستخدمين على المدى الطويل سيناصرون منتدىك. الوجه الودود الذي يظهر للإجابة على سؤال سهل يخلق جوًا ترحيبيًا بطريقة لا يستطيع الذكاء الاصطناعي القيام بها. هذه ثمار سهلة من منظور بناء المجتمع!