أضف {username} كـ معلمة قالب في مطالبات نظام الذكاء الاصطناعي للشخصية

هذه هي أول مرة أساهم فيها. أعتذر إذا أخطأت في أي شيء، وأنا ممتن جداً للصبر وأي نصائح إذا كان هناك طريقة أفضل للقيام بذلك.

لما له من قيمة ضئيلة، أنا عميل Pro.

كنت بحاجة إلى طريقة قوية لمعرفة المستخدم الذي يتفاعل مع وكيل الذكاء الاصطناعي. هذا ما توصلت إليه. شكراً جزيلاً على وقتك للنظر في الأمر، وأي نصائح.

إضافة {username} كمتغير قالب في مطالبات النظام لشخصية الذكاء الاصطناعي

قدمت طلب السحب #41446 ( FEATURE: Add {username} template param to BotContext - Pull Request #41446 - discourse/discourse - GitHub ) لإضافة {username} إلى BotContext::TEMPLATE_PARAMS.

حالة الاستخدام: شخصية تعمل كجسر لخدمة خارجية تحتاج إلى حل هوية المستخدم الحالي على جانب الخادم، وليس استنتاجها بواسطة نموذج اللغة الكبير من نص المنشور. حالياً لا توجد طريقة نظيفة للقيام بذلك. {participants} لا يتم ملؤه إلا للرسائل الخاصة، وطلب نموذج اللغة الكبير لتحليل اسم المستخدم من بيانات الموضوع هش ويحتوي على سطح حقن.

التغيير صغير (طريقة جديدة واحدة، وإضافة سلسلة واحدة إلى قائمة السماح) وإضافي. المتغيرات الحالية غير متأثرة ما لم تحتوي بالفعل على {username} الحرفي.

شكراً مرة أخرى!

6 إعجابات

أوه، لقد أكملت اتفاقية المساهم (CLA) أيضاً. أعتقد أنني غطيت جميع الجوانب. شكراً مرة أخرى.

إعجابَين (2)

أ只是想确认一下。如果有任何我可以帮忙的地方,请随时告诉我。谢谢 :purple_heart:

إعجاب واحد (1)

شكرًا لك على طلب الدمج!

تم دمجه الآن.

6 إعجابات

رائع! شكراً جزيلاً لك :purple_heart:

3 إعجابات

ناقشت هذا الأمر مع @falco أيضًا، لكن أرغب في التحذير من أن هذا حلٌ حادّ للغاية.

بشكل خاص، نحن بالفعل ندرج اسم المستخدم في رسالة “المستخدم”:

وهذا مرئي في سجلات واجهة برمجة تطبيقات الذكاء الاصطناعي.

تكمن المخاطر في إدراج الاسم ضمن موجه النظام في الحالات التي تتضمن تفاعلات متعددة المستخدمين ضمن سلسلة، حيث يمكن أن يؤدي ذلك إلى تذبذب موجه النظام، مما يسبب انتهاء صلاحية ذاكرة التخزين المؤقت، وهو أمر غير مثالي وقد يؤدي إلى ضعف الأداء.

الآن… لاحظتُ شيئًا واحدًا في قوالب vllm الخاصة بنا وهو أننا نتجاهل الاسم، وهذا يفسر سبب افتقار النماذج المستضافة بواسطة CDCK لهذه الميزة. أنا أعمل حاليًا على تصحيح لهذا الخطأ.

3 إعجابات