كيف يمكنني تقييد وكيل الذكاء الاصطناعي للإجابة فقط على الأسئلة المتعلقة بمجتمعي؟

أقوم بإعداد Discourse AI على منتداتي، ولدي روبوت/وكيل ذكاء اصطناعي يعمل مع Gemini 2.5 Flash عبر LiteLLM وGoogle Vertex AI.

الروبوت يعمل، لكن لدي مشكلة تتعلق بنطاق عمله.

على سبيل المثال، منتديي مجتمع يركز على الأعمال. إذا سألت الروبوت:

“من يملك أوبر؟”

فإنه يجيب على السؤال باستخدام المعرفة العامة للنموذج اللغوي، على الرغم من أن السؤال لا علاقة له بمنتداتي.

هذا يخلق مشكلتين:

  1. أريد أن يعمل الروبوت كمساعد معرفة مخصص للمنتدى، وليس كواجهة عامة لـ Gemini/ChatGPT.
  2. لا أريد أن يتمكن المستخدمون من طرح أسئلة عشوائية واستهلاك أرصدة النموذج اللغوي الخاصة بي.

ما أريده مثاليًا هو:

يطرح المستخدم سؤالًا

هل هو ذي صلة بهذا المنتدى؟

لا → رفض بلطف

نعم

البحث في معرفة المنتدى

توليد الإجابة بناءً على محتوى المنتدى

هل ألقيت نظرة على الوكلاء (Agents)؟ ربما يكون وكيل بحث المنتدى أو مساعد المنتدى أكثر ملاءمة، حيث تم ضبطهما للعمل مع المنتدى بشكل خاص. أم هل هذا ما تستخدمه بالفعل؟

يواجه مساعد المنتدى هذه المشكلة أيضًا:

مم… ربما ترغب حينها في إنشاء وكيل خاص بك مع مطالبة نظام مخصصة لكي لا يستجيب للاستفسارات التي تقع خارج نطاق منتداك.

هذا ما أراه اليوم إذا حاولت ذلك على ask.discourse.com

شكرًا لسؤالك! نظرًا لأنك سألت في قناة دعم Discourse، سأجيب في سياق كيفية عمل نماذج اللغة لتشغيل ميزات الذكاء الاصطناعي في Discourse — ولكن أخبرني إذا كنت تقصد في الواقع شرحًا تقنيًا عامًا لكيفية عمل النماذج اللغوية الكبيرة (LLMs)، وسأوجهك إلى مكان آخر لذلك.

يجب أن يعرف شخص ما هنا كيف تم وضع هذه الشبكة.

الوكيل “الإبداعي” (Creative) الذي استخدمته في الاختبار هو وكيل “بدون موجه نظام” (no system prompt) الخاص بنا، والذي يقوم فقط بتمرير الطلب إلى نموذج اللغة الأساسي (LLM) الكامن.

ستحتاج إلى تصميم وكيل جديد، مع موجه نظام يحدد كيفية ومتى الإجابة في منتداك الخاص.

وهو ما قمنا به في ask.discourse.com كما ذكر @Ed_S.

على الرغم من أن المطالبات يمكن أن تؤثر على سلوك الوكيل، إلا أنها ليست موثوقة دائماً. تمكنت من خداع الوكيل في ask.discourse.com للإجابة على بعض الأسئلة خارج الموضوع.

(هذا على الأرجح أحد تلك المواقف التي قد يؤدي فيها التنفيذ بنسبة 100% إلى إحداث إزعاج أكثر من الفائدة.)

نعم، بعد أن يصبح الحوار عميقًا وتقوم بتسلسله، يمكنك جعله يستمر. لا يمثل هذا مصدر قلق لنا لأننا نستضيف النماذج ourselves، لذا لا ندفع مقابل كل رمز (token) على أي حال. كما نقوم بتحليل جميع المحادثات على Ask يوميًا ويمكننا حظر أي جهات ضارة. تظل سير عمل مراجعة المنتدى كما هو.

إذا كنت تريد تحكمًا أكثر مما يوفره لك مطالبة النظام (system prompt)، يمكنك تجربة بعض الأساليب:

سير العمل (Workflows)

سيتمكّنك ملحق سير العمل الجديد من إجراء تمريرين لكل رسالة، أولاً مع وكيل يقيّم ما إذا كان ينبغي الرد على الرسالة، ثم آخر يرد بشكل شرطي.

نماذج مُضبوطة بدقة (Fine-tuned models)

الطريقة الأكثر ضمانًا للتحكم هي نشر نموذج تم تدريبه فعليًا على السلوك الذي تريده.

هذا سهل مع Discourse AI، حيث نتيح لك اختيار واختيار نماذج اللغة الكبيرة (LLMs) لكل وكيل.