يتحدث المدونة عن كيفية تدريب GPT4 ليكون بمثابة مشرف لمحتوى الإنترنت بناءً على سياسات.
هذا ينطبق مباشرة على مواقع Discourse التي تستخدم مشرفين بشريين لتصفية المحتوى بناءً على السياسات.
بصفتي مشرفًا بشريًا في عدد قليل من المواقع، أستخدم سياسات كل من المنظمة ومنتدى Discourse لاتخاذ قرارات بشأن الإجراءات التي يجب اتخاذها فيما يتعلق بالمنشورات، وتحديدًا عندما يتم الإبلاغ عنها. ليس من غير المألوف بالنسبة لي كمشرف أن أسمح لمنشور تم الإبلاغ عنه بالبقاء إذا لم يكن مخالفًا لسياسة ما.
أعلم أنك طلبت أفكاري، لكنني أحاول أن أبقي مثل هذه الردود حقائق؛ آمل أن أكون قد بقيت ضمن حدودي الخاصة.
لم يكن هدفي بدء نقاش، بل كان تمرير معلومات أعتبرها ذات صلة بكل من شركة Discourse وأولئك الذين يديرون المواقع بمساعدة مشرفين بشريين.
بينما حاولت الالتزام بالحقائق فقط للمعلومات المقدمة في المنشور الأول، إليك نقطة أعتقد أنها قد تستحق المناقشة.
هل يجب أن يعتمد الموقع كليًا على مشرف ذكاء اصطناعي أم يجب أن يكون البشر متورطين؟ والأهم من ذلك، ماذا يحدث عندما يختلف الذكاء الاصطناعي والبشر؟
استخدام كلمة loop كان اختياريًا، وليس مصادفة؛ هل سبق لك أن استمعت إلى مهمات أبولو من مراقبة الطيران وسمعت كلمة loop؟
ملاحظة جانبية مثيرة للاهتمام للغاية تتعلق بهذا الأمر والتي قد لا يراها الكثيرون وهي أن هذه هي نفس المشكلة التي واجهها الطيران الفضائي المأهول؛ هل يجب أن تكون المركبة الفضائية مستقلة تمامًا أم يجب أن يكون الإنسان قادرًا على تولي التحكم الجزئي و/أو الكامل؟ يمكن اعتبار هذا بداية الطيار الآلي للطائرات.
كتاب رائع قرأته شخصيًا حول هذا الموضوع، تعلمت الكثير عن مجال من التعليمات البرمجية والتصميم لم أره في أي مشاريع أخرى.
“Apollo الرقمي: الإنسان والآلة في رحلات الفضاء” بقلم ديفيد أ. ميندل (الموقع) (WorldCat)
بالتأكيد، أبقِ البشر على اطلاع. هل رأيت فيلم روبوكوب؟ بجدية، هناك الكثير من الحكم في الإشراف. في حين أنه من الجيد أن تكون لديك إرشادات، وأن تستخدمها، فإن تشغيلها كمجموعة من القواعد الصارمة يبدو لي حماقة - حل تقني لمشكلة بشرية.
تعديل: أود أن أضيف، أنا أدير منتديات على نطاق بشري، حيث يعرف المشرفون بعضهم البعض ويعرفون الأعضاء المساهمين بانتظام. أنا متأكد من أن OpenAI تفكر في منتديات على نطاق صناعي، تُدار من أجل الربح، حيث تمثل تحديات الإشراف تحديات مختلفة تمامًا.
تعد Discourse منصة مثالية للتعلم والنمو وبناء هذه الأدوات الجديدة.
أنا ملتزم تمامًا باحتضان ثورة الذكاء الاصطناعي كـ “شبكة عصبية” لامركزية ومترابطة من الشبكات يمكن للمجتمعات والثقافات البشرية الموجودة بالفعل من خلالها البدء في التطور والتعاون بكفاءة أكبر، والبدء في تغيير مسار الأوبئة التي تسببها الاستقطاب والتي أدت إليها مركزية السلطة والتحكم التي فرضتها علينا التكرارات الأخيرة للشبكات “الاجتماعية”.
يجب أن يكون البشر ضمن الحلقة، ولكن أعتقد أن وجود مستوى معين من الإشراف بواسطة الذكاء الاصطناعي سيكون نقطة بيع قوية لأي مؤسسة عامة تفكر في إنشاء منتدى. على سبيل المثال، إذا كان بإمكان هيئة الإذاعة الكندية (CBC) الاقتناع بإنشاء منتدى.
قد يكون التوازن شيئًا مثل، سيستخدم المشرفون البشريون مهاراتهم البشرية لتوجيه المحادثات، بينما سيقوم الذكاء الاصطناعي (تحت إشراف بشري) بإنفاذ إرشادات الموقع. يمكن للإشراف بواسطة الذكاء الاصطناعي أن يجعل المنتديات أكثر استعدادًا للسماح بالمحادثات التي تتعامل مع القضايا المثيرة للجدل.
أرغب في الإشراف بمساعدة الذكاء الاصطناعي لاكتشاف المستخدمين المزعجين الذين ينشئون حسابات جديدة بعد تعليقهم. التعامل مع مثل هؤلاء المستخدمين يستهلك من وقتي أكثر مما أرغب، وأنا لست حتى أحد المشرفين (لدينا أدوار منفصلة).
هل توجد أي وظائف للذكاء الاصطناعي مثل هذه للتكامل مع ديسكورس؟ أعتقد أنها ستكون مفيدة جدًا في المساعدة في الإشراف على مجتمعي. يرجى إعلامي! أبحث عن حلول لتوفير الوقت للمنشورات التي تنتهك إرشاداتنا.
\u003e يلعب الإشراف على المحتوى دورًا حاسمًا في الحفاظ على صحة المنصات الرقمية.
ينتج نظام الإشراف على المحتوى الذي يستخدم GPT-4 تكرارًا أسرع بكثير في تغييرات السياسة، مما يقلل الدورة من أشهر إلى ساعات. GPT-4 قادر أيضًا على تفسير القواعد والفروق الدقيقة في وثائق سياسة المحتوى الطويلة والتكيف فورًا مع تحديثات السياسة، مما يؤدي إلى تسمية أكثر اتساقًا. نعتقد أن هذا يقدم رؤية أكثر إيجابية لمستقبل المنصات الرقمية، حيث يمكن للذكاء الاصطناعي المساعدة في الإشراف على حركة المرور عبر الإنترنت وفقًا لسياسة خاصة بالمنصة وتخفيف العبء الذهني لعدد كبير من المشرفين البشريين. يمكن لأي شخص لديه وصول إلى واجهة برمجة تطبيقات OpenAI تنفيذ هذا النهج لإنشاء نظام الإشراف الخاص به بمساعدة الذكاء الاصطناعي.
بينما تبيع لك OpenAI رموزًا لاستخدام الألعاب في مدينة الملاهي الخاصة بك، يتم استبدال “عبء ذهني” واحد بـ “عبء ذهني” آخر (بافتراض أنك تهتم)، هل يمكنك اكتشافه؟
بينما أستمتع تمامًا بهذه التقنية وجعلت من عملي فهمها قدر استطاعتي ومعرفة كيفية استخدامها بشكل أفضل، من الواضح أن OpenAI (والخدمات المماثلة) قد توصلت إلى شيء مهم من منظور الأعمال.
والافتراض هو أنه مقابل كل منشور يتم إنشاؤه، يتعين عليك دفع مبلغ مالي إلى OpenAI لأسباب متعددة محتملة (تلخيص، قواعد لغة المنشور، تصنيف المنشور على أنه غير لائق، تضمين الملف الشخصي، والقائمة تطول).
قبل أن تدرك ذلك، تحصل OpenAI على حصة جيدة من جميع الإنتاجات على موقعك الخاص. كل إيرادات الإعلانات والشركات التابعة التي حصلت عليها بشق الأنفس؟ يتم تحويل جزء منها الآن إليهم.
وسيحب مزودو خدمات Cloud VPS جميع الأشخاص الذين يقومون بترقية خوادمهم من 4 جيجابايت إلى 16 جيجابايت لاستخدام نماذج مفتوحة المصدر محليًا.
ومع ذلك، بالطبع، لن يقوم أحد بذلك على نطاق واسع ما لم يكن ذلك أكثر كفاءة للقيام به بهذه الطريقة وكان ذلك مهمًا من الناحية التنافسية.
وبشكل أقل تشاؤمًا، هناك طريقة أخرى للنظر إلى الخدمات المقدمة وهي دمقرطة التكنولوجيا التي كانت متاحة فقط لمقدمي الخدمات الكبار.
على سبيل المثال، البحث الدلالي الآن أرخص من أي وقت مضى ويمكن للمنشآت الصغيرة الآن استخدام البحث القوي بسعر مناسب جدًا. هذا بالتأكيد شيء رائع؟
قوة معالجة اللغة الطبيعية مذهلة للغاية حتى في النماذج الأرخص.
ولم نبدأ هذه الحقبة الجديدة بعد، أنا متأكد من أن الأسعار ستنخفض مع ازدهار المنافسة.
