روبوت دردشة Discourse

@merefield شكراً!\n\nكيف تمكنت من تصحيح ذلك بهذه السرعة؟\n\nسأقوم بإزالة Zendesk… بسيط :slight_smile:

إعجاب واحد (1)

تجربة مريرة :sweat_smile:

3 إعجابات

مرحباً بالجميع،

لقد أنشأت حسابًا مع OpenAI الآن. هل يجب عليّ إنشاء مساعد؟ أتساءل فقط عما إذا كانت هناك أي خطوات يجب اتباعها لدمج الذكاء الاصطناعي مع المكون الإضافي؟

مع خالص التقدير،

لا، كل ما تحتاجه هو رمز مميز. قد تحتاج إلى إضافة رصيد إلى حسابك مع OpenAI للوصول إلى النماذج الأكثر تقدمًا وحدود المعدل الأعلى.

يتم التعامل مع كل ما يتعلق بواجهة برمجة التطبيقات (API) بواسطة المكون الإضافي.

(بالمناسبة، حقيقة ممتعة - لا يدعم Chatbot واجهة برمجة تطبيقات المساعدين (Assistants API) بشكل صريح لأنه ينفذ نظام محادثة خاص به ونظام “تفكير داخلي” يستخدم فقط واجهة برمجة تطبيقات إكمال الدردشة (Chat Completions API) وواجهة برمجة تطبيقات التضمين (Embeddings API). هذا رائع لأن واجهة برمجة تطبيقات المساعدين (Assistants API) لها سمعة بأنها مسرفة في استخدام الرموز المميزة وتكلفك الكثير من المال - تم بناء Chatbot ليكون اقتصاديًا!)

يا له من أمر رائع، إنه يفعل أكثر بكثير مما كنت أدرك.

هل يمكنك شرح ما هو الرمز (token) في عالم ChatGPT؟ أنا أدفع حاليًا مقابل ChatGPT Premium، وهو 20 دولارًا شهريًا. ما كنت أهدف إليه هو السماح لمستخدمي Discourse بالوصول إلى الذكاء الاصطناعي الذي كنت أقوم بتدريبه، على chatgpt.com.

آمل أن يكون هذا منطقيًا وأن تكون حالة الاستخدام واضحة!

الأمر أشبه بالمال. يمكنك التفكير في الرموز (tokens) على أنها كلمات أو أجزاء من كلمات. عندما تسأل شيئًا ما، فإنه يكلف مبلغ X من الرموز. عندما تعالج OpenAI سؤالك، فإنها تستخدم المزيد من الرموز. وأخيرًا، عندما يتم إنشاء إجابتك، فإن ذلك يكلف مبلغًا من الرموز.

اعتمادًا على النموذج المستخدم والمحادثة، يتعين عليك الدفع مقابل استخدام هذه الرموز، وأحيانًا أكثر وأحيانًا أقل.

إعجاب واحد (1)

لقد تغيرت القدرة على استخدام o1 كثيرًا في استخدامي للذكاء الاصطناعي (وشكرًا… ليس الله، ولكن مهارات البرمجة لدى روبرت يمكنني قصر استخدامه عليّ فقط). لكن سلسلة o1 لا تستخدم موجه نظام، لذلك يجب عليّ إضافة توجيهات كهذه، مثل كيفية عرض الرياضيات، وما إلى ذلك، في الموجه الخاص بي.

سيكون الأمر أسهل إذا كان لدينا نص قياسي لإضافته تلقائيًا بعد الموجه الفعلي، أي بعده. لدى Discourse، نوعًا ما، هذه القدرة، ولكن إما أنني لا أستطيع استخدامها أو أنني أحاول استخدامها بشكل خاطئ. يجب أن يظهر في كل فئة ورسالة خاصة عندما يتم ذكر Chatbot أو يكون جزءًا من رسالة خاصة. وفقط عند استخدام o1 أو o1-mini :woozy_face:

سلسلة o1 ليست جاهزة بعد، لذلك قد يتغير في وقت ما كيفية استخدامها للأدوات، وما إلى ذلك. لذلك بهذه الطريقة، لا أطلب ميزة جديدة، ولكن ربما أناقش الخيارات. ولن تكون سلسلة o1 حلاً شاملاً أبدًا، فهي متخصصة جدًا (ومكلفة)، لذلك قد يكون الطلب حيث يجب على المستخدم فقط تذكر إضافة هذه القواعد الإضافية مبررًا.

خارج الموضوع، لكن نماذج GPT تعلمت الرياضيات عندما تم نشر o1.

إعجاب واحد (1)

نعم، لا يمكننا الخوض كثيرًا في التخصيص للتعويض عن عدم اتساق OpenAI.

أشك بشدة في أن الأدوات وربما حتى ميزات المطالبات النظامية ستأتي عندما تخرج o1 من المعاينة.

لست مقتنعًا بأن روبوت الدردشة هو المكان المناسب لتنفيذ نظام “قصاصات”، على الرغم من أنني أتذكر أن أحد أعضاء الفريق قام بإنشاء ذلك، دعني أجده وأقوم بتحديث المنشور…

ها أنت ذا:

4 إعجابات

شكراً @Jagster على المعلومات الواضحة جداً. أعتقد أنني كنت أعني شيئًا مختلفًا، ربما؟ أحاول دمج هذه الإضافة مع OpenAI باستخدام هذا،

. أنا فقط أحاول الحصول على بعض المعلومات الأساسية حول كيفية ربط الأشياء.

إعجابَين (2)

هذا مجرد مفتاح واجهة برمجة تطبيقات (API) ستقوم بإنشائه للوصول. لا شيء أكثر، كلمة مرورك يمكننا القول.

3 إعجابات

الآن أفهم الارتباك.

نعم، هناك رمز واجهة برمجة التطبيقات (API token) (أو مفتاح، والذي تحتاج إلى الحصول عليه من OpenAI) وهناك رموز نصية تمثل أجزاء من الكلمات. تتم معالجة الأخيرة بواسطة LLM. الأول هو حتى تتمكن واجهة برمجة التطبيقات من المصادقة عليك.

إليك دليل جيد جدًا للمصطلحات من The Verge:

5 إعجابات

أقوم بتشغيل Llama محليًا وأنا قريب جدًا من تشغيل هذا على مثيل Discourse محلي. الشات بوت يتحدث :sunglasses: لكنني أواجه صعوبة في إنشاء التضمينات. لدي مستخدم المعيار الخاص بي في مستوى الثقة 1. مهمة rake rake chatbot:refresh_embeddings[1] تفشل مع مشكلة مصادقة.

Faraday::UnauthorizedError: the server responded with status 401 (Faraday::UnauthorizedError)

داخل حقل رمز OpenAI الخاص بالشات بوت، قمت بلصق عنوان URL الذي قدمه لي Llama

هل لديك أي اقتراحات حول كيفية المصادقة بشكل صحيح؟

4 إعجابات

رائع أنك جربت!

يسعدني أنه يتحدث :smile:

لا أعرف ما إذا كان من الممكن استخدام الروبوت مع التضمينات محليًا.

سأقبل طلب سحب (PR) جيد لإضافة الدعم.

وجدت هذا:

لذا قد يكون ذلك ممكنًا مع النموذج الصحيح والكود الإضافي والإعدادات ذات الصلة في الروبوت. ستحتاج على الأرجح إلى إعداد نموذج تضمينات مخصص غير موجود حاليًا.

يوجد هذا بالفعل:

chatbot open ai embeddings model custom url

والذي تم تنفيذه بشكل أساسي للمساعدة في دعم Azure ولكن يمكن إعادة استخدامه بطريقة مماثلة لكيفية توجيه Chat Completions إلى خدمة Ollama المحلية.

أقدر أن هذا يحد حاليًا من فائدة الروبوت محليًا.

هذا هو الرمز المميز المرسل إلى نقطة النهاية. إنه ببساطة حقل نصي. أشك كثيرًا في أن عنوان URL هنا سيعمل. هناك إعدادات مخصصة لنقطة نهاية إكمال الدردشة في الأسفل:

على سبيل المثال: chatbot open ai model custom url high trust

إذا قمت بعمل نسخة معدلة وأضفت الإضافات ذات الصلة التي تتماشى مع ما هو موجود بالفعل، وتستفيد مما هو متاح بالفعل، ولكن تضيف الحد الأدنى اللازم لتحقيق دعم التضمينات المحلي مع Ollama، مع الحفاظ على السلوك الحالي مع OpenAI و Azure، سأقوم بالتأكيد بمراجعة طلب سحب (PR) بهدف الدمج.

إعجابَين (2)

قريباً
ستأتي المزيد من الميزات لدعم سير العمل الذي يتضمن التضمينات:

التوافق مع OpenAI API: دعم نقطة النهاية المتوافقة مع OpenAI /v1/embeddings

بالنظر إلى أن قريباً عادة ما يكون قريباً حقاً في هذا المجال سريع الحركة، فربما يكون هذا شيئاً يستحق الانتظار لحل حالة الاستخدام الخاصة بي؟

إن نسختنا هي ينبوع معلومات يعود تاريخه إلى 20 عامًا، ولكن التسرب هو أيضًا مصدر قلق كبير، ومن هنا جاءت الرغبة في الاختبار المحلي.

إعجاب واحد (1)

أعتقد أنني وجدت طلب سحب (PR) لـ Ollama يبدو أنه يحل مشكلة توافق نقاط نهاية واجهة برمجة التطبيقات. أحتاج إلى فهم هذا الأمر بشكل أفضل، ولكن هل أنا على المسار الصحيح؟

إعجاب واحد (1)

حسنًا، حاليًا لا يوجد إعداد لنموذج التضمين المخصص، وهذا يمثل مشكلة كبيرة.

عند التشغيل محليًا، يمكنك تجربته عن طريق ترميز النموذج يدويًا إلى النموذج الذي قمت بتنزيله لـ Ollama.

بالتفكير في هذا الأمر أكثر، فإن المشكلة الأخرى التي ستواجهها هي أن تعريف جدول التضمينات يحتوي على أبعاد مضبوطة على معيار نموذج OpenAI الصغير وهو ضخم للغاية… ربما يمكنك التفكير في كيفية التغلب على ذلك…

إعجاب واحد (1)

Chatbot 1.2. يقدم جمع حقول المستخدم المدعوم بالذكاء الاصطناعي كميزة تجريبية.

إذا كان لدى المستخدم بعض حقول المستخدم الاختيارية فارغة حاليًا، فإن تمكين هذا الإعداد سيؤدي إلى بدء الروبوت في مطالبة المستخدم بالمعلومات. سيتقدم عبر حقول المستخدم المعلقة حتى يتم إكمالها ثم يعود إلى السلوك الطبيعي.

image

(عذرًا على بطء الاستجابة - تم تسجيل هذا في بيئة التطوير)

ملاحظة: هذه الميزة تدعم فقط:

  • نص
  • قوائم منسدلة
  • تأكيدات

الاختيار المتعدد غير مدعوم بعد.

يجب أن تكون الحقول اختيارية.

يحدد ترتيب حقول المستخدم الأولوية.

6 إعجابات

تم إصدار Chatbot 1.3 :tada:

  • ميزة: إضافة خيار لإدارة الحصص حسب الرمز المميز
    • الإعداد الجديد chatbot_quota_basis يسمح لك بالاشتراك، وإلا فسيظل حسب عدد الاستعلامات
    • الفرق الوحيد افتراضيًا هو أن الحصة تُحسب تنازليًا من الحد الأقصى للحصة المبدئي (الذي لا يزال يعتمد على نفس إعدادات مستوى الثقة).
  • ميزة: تضمين تكلفة استدعاءات واجهة برمجة التطبيقات مثل DALL-E في استهلاك المستخدم
    • أساس الرمز المميز فقط
    • العديد من الإعدادات الجديدة للتعديل للتأثير على تكلفة الرمز المميز لميزات واجهة برمجة التطبيقات
  • ميزة: إضافة وظيفة للسماح للمستخدم بالتحقق من حصته المتبقية

لطالما تضمن Chatbot القدرة على فرض حصة استخدام.

اليوم يصبح هذا أكثر تطوراً!

يمكن لـ Chatbot الآن تتبع وفرض حصة على الاستخدام حسب الرمز المميز.

يمكنك حساب تكلفة استدعاءات واجهات برمجة التطبيقات لتثبيط الإفراط في استخدامها، حتى تشعر بقلق أقل بشأن منح الأشخاص الوصول إلى إنشاء الصور، على سبيل المثال.

تتبع الرموز المميزة اختياري. إذا قمت بالتبديل إلى تتبع الرموز المميزة، فتأكد من زيادة حصة كل مستوى ثقة، لأن القيم ستحتاج إلى أن تكون أكبر ببضعة أضعاف. جرب.

ومع ذلك، فقد تغير التتبع حسب الاستعلام قليلاً. سيعود الآن إلى الحد الأقصى المسموح به لعدد استعلاماتك ويعد تنازليًا إلى الصفر.

قد تفكر في تشغيل مهمة إعادة تعيين الحصة العالمية مرة واحدة كإجراء لمرة واحدة للتأكد من أن الجميع يبدأ بحصة كاملة. هذا لمرة واحدة فقط!

في sidekiq على /sidekiq/scheduler:

اضغط على زر التشغيل.

في كلتا الحالتين، يمكن للمستخدمين الآن السؤال عن مقدار الحصة المتبقية لديهم:

ملاحظة: مشكلة معروفة: إذا تم طرح هذا السؤال لأول مرة قبل تشغيل مهمة إعادة التعيين، فقد تكون الإجابة غريبة بعض الشيء! بغض النظر عن تشغيل مهمة إعادة التعيين، فإن المرة الثانية التي يتم فيها طرح هذا السؤال يجب أن تعمل بشكل جيد.

4 إعجابات

مرحباً روبرت،
أقدر كل العمل الذي قمت به في البوت، ولكنني أواجه الخطأ التالي في السجلات عند محاولة استدعائه في الدردشة.
image
هل لديك أي أفكار دون الحاجة إلى إلغاء التثبيت وإعادة التثبيت؟

إعجاب واحد (1)