@merefield شكراً!\n\nكيف تمكنت من تصحيح ذلك بهذه السرعة؟\n\nسأقوم بإزالة Zendesk… بسيط ![]()
تجربة مريرة ![]()
مرحباً بالجميع،
لقد أنشأت حسابًا مع OpenAI الآن. هل يجب عليّ إنشاء مساعد؟ أتساءل فقط عما إذا كانت هناك أي خطوات يجب اتباعها لدمج الذكاء الاصطناعي مع المكون الإضافي؟
مع خالص التقدير،
لا، كل ما تحتاجه هو رمز مميز. قد تحتاج إلى إضافة رصيد إلى حسابك مع OpenAI للوصول إلى النماذج الأكثر تقدمًا وحدود المعدل الأعلى.
يتم التعامل مع كل ما يتعلق بواجهة برمجة التطبيقات (API) بواسطة المكون الإضافي.
(بالمناسبة، حقيقة ممتعة - لا يدعم Chatbot واجهة برمجة تطبيقات المساعدين (Assistants API) بشكل صريح لأنه ينفذ نظام محادثة خاص به ونظام “تفكير داخلي” يستخدم فقط واجهة برمجة تطبيقات إكمال الدردشة (Chat Completions API) وواجهة برمجة تطبيقات التضمين (Embeddings API). هذا رائع لأن واجهة برمجة تطبيقات المساعدين (Assistants API) لها سمعة بأنها مسرفة في استخدام الرموز المميزة وتكلفك الكثير من المال - تم بناء Chatbot ليكون اقتصاديًا!)
يا له من أمر رائع، إنه يفعل أكثر بكثير مما كنت أدرك.
هل يمكنك شرح ما هو الرمز (token) في عالم ChatGPT؟ أنا أدفع حاليًا مقابل ChatGPT Premium، وهو 20 دولارًا شهريًا. ما كنت أهدف إليه هو السماح لمستخدمي Discourse بالوصول إلى الذكاء الاصطناعي الذي كنت أقوم بتدريبه، على chatgpt.com.
آمل أن يكون هذا منطقيًا وأن تكون حالة الاستخدام واضحة!
الأمر أشبه بالمال. يمكنك التفكير في الرموز (tokens) على أنها كلمات أو أجزاء من كلمات. عندما تسأل شيئًا ما، فإنه يكلف مبلغ X من الرموز. عندما تعالج OpenAI سؤالك، فإنها تستخدم المزيد من الرموز. وأخيرًا، عندما يتم إنشاء إجابتك، فإن ذلك يكلف مبلغًا من الرموز.
اعتمادًا على النموذج المستخدم والمحادثة، يتعين عليك الدفع مقابل استخدام هذه الرموز، وأحيانًا أكثر وأحيانًا أقل.
لقد تغيرت القدرة على استخدام o1 كثيرًا في استخدامي للذكاء الاصطناعي (وشكرًا… ليس الله، ولكن مهارات البرمجة لدى روبرت يمكنني قصر استخدامه عليّ فقط). لكن سلسلة o1 لا تستخدم موجه نظام، لذلك يجب عليّ إضافة توجيهات كهذه، مثل كيفية عرض الرياضيات، وما إلى ذلك، في الموجه الخاص بي.
سيكون الأمر أسهل إذا كان لدينا نص قياسي لإضافته تلقائيًا بعد الموجه الفعلي، أي بعده. لدى Discourse، نوعًا ما، هذه القدرة، ولكن إما أنني لا أستطيع استخدامها أو أنني أحاول استخدامها بشكل خاطئ. يجب أن يظهر في كل فئة ورسالة خاصة عندما يتم ذكر Chatbot أو يكون جزءًا من رسالة خاصة. وفقط عند استخدام o1 أو o1-mini ![]()
سلسلة o1 ليست جاهزة بعد، لذلك قد يتغير في وقت ما كيفية استخدامها للأدوات، وما إلى ذلك. لذلك بهذه الطريقة، لا أطلب ميزة جديدة، ولكن ربما أناقش الخيارات. ولن تكون سلسلة o1 حلاً شاملاً أبدًا، فهي متخصصة جدًا (ومكلفة)، لذلك قد يكون الطلب حيث يجب على المستخدم فقط تذكر إضافة هذه القواعد الإضافية مبررًا.
خارج الموضوع، لكن نماذج GPT تعلمت الرياضيات عندما تم نشر o1.
نعم، لا يمكننا الخوض كثيرًا في التخصيص للتعويض عن عدم اتساق OpenAI.
أشك بشدة في أن الأدوات وربما حتى ميزات المطالبات النظامية ستأتي عندما تخرج o1 من المعاينة.
لست مقتنعًا بأن روبوت الدردشة هو المكان المناسب لتنفيذ نظام “قصاصات”، على الرغم من أنني أتذكر أن أحد أعضاء الفريق قام بإنشاء ذلك، دعني أجده وأقوم بتحديث المنشور…
ها أنت ذا:
شكراً @Jagster على المعلومات الواضحة جداً. أعتقد أنني كنت أعني شيئًا مختلفًا، ربما؟ أحاول دمج هذه الإضافة مع OpenAI باستخدام هذا،
هذا مجرد مفتاح واجهة برمجة تطبيقات (API) ستقوم بإنشائه للوصول. لا شيء أكثر، كلمة مرورك يمكننا القول.
الآن أفهم الارتباك.
نعم، هناك رمز واجهة برمجة التطبيقات (API token) (أو مفتاح، والذي تحتاج إلى الحصول عليه من OpenAI) وهناك رموز نصية تمثل أجزاء من الكلمات. تتم معالجة الأخيرة بواسطة LLM. الأول هو حتى تتمكن واجهة برمجة التطبيقات من المصادقة عليك.
إليك دليل جيد جدًا للمصطلحات من The Verge:
أقوم بتشغيل Llama محليًا وأنا قريب جدًا من تشغيل هذا على مثيل Discourse محلي. الشات بوت يتحدث
لكنني أواجه صعوبة في إنشاء التضمينات. لدي مستخدم المعيار الخاص بي في مستوى الثقة 1. مهمة rake rake chatbot:refresh_embeddings[1] تفشل مع مشكلة مصادقة.
Faraday::UnauthorizedError: the server responded with status 401 (Faraday::UnauthorizedError)
داخل حقل رمز OpenAI الخاص بالشات بوت، قمت بلصق عنوان URL الذي قدمه لي Llama
هل لديك أي اقتراحات حول كيفية المصادقة بشكل صحيح؟
رائع أنك جربت!
يسعدني أنه يتحدث ![]()
لا أعرف ما إذا كان من الممكن استخدام الروبوت مع التضمينات محليًا.
سأقبل طلب سحب (PR) جيد لإضافة الدعم.
وجدت هذا:
لذا قد يكون ذلك ممكنًا مع النموذج الصحيح والكود الإضافي والإعدادات ذات الصلة في الروبوت. ستحتاج على الأرجح إلى إعداد نموذج تضمينات مخصص غير موجود حاليًا.
يوجد هذا بالفعل:
chatbot open ai embeddings model custom url
والذي تم تنفيذه بشكل أساسي للمساعدة في دعم Azure ولكن يمكن إعادة استخدامه بطريقة مماثلة لكيفية توجيه Chat Completions إلى خدمة Ollama المحلية.
أقدر أن هذا يحد حاليًا من فائدة الروبوت محليًا.
هذا هو الرمز المميز المرسل إلى نقطة النهاية. إنه ببساطة حقل نصي. أشك كثيرًا في أن عنوان URL هنا سيعمل. هناك إعدادات مخصصة لنقطة نهاية إكمال الدردشة في الأسفل:
على سبيل المثال: chatbot open ai model custom url high trust
إذا قمت بعمل نسخة معدلة وأضفت الإضافات ذات الصلة التي تتماشى مع ما هو موجود بالفعل، وتستفيد مما هو متاح بالفعل، ولكن تضيف الحد الأدنى اللازم لتحقيق دعم التضمينات المحلي مع Ollama، مع الحفاظ على السلوك الحالي مع OpenAI و Azure، سأقوم بالتأكيد بمراجعة طلب سحب (PR) بهدف الدمج.
قريباً
ستأتي المزيد من الميزات لدعم سير العمل الذي يتضمن التضمينات:
…
التوافق مع OpenAI API: دعم نقطة النهاية المتوافقة مع OpenAI /v1/embeddings
بالنظر إلى أن قريباً عادة ما يكون قريباً حقاً في هذا المجال سريع الحركة، فربما يكون هذا شيئاً يستحق الانتظار لحل حالة الاستخدام الخاصة بي؟
إن نسختنا هي ينبوع معلومات يعود تاريخه إلى 20 عامًا، ولكن التسرب هو أيضًا مصدر قلق كبير، ومن هنا جاءت الرغبة في الاختبار المحلي.
أعتقد أنني وجدت طلب سحب (PR) لـ Ollama يبدو أنه يحل مشكلة توافق نقاط نهاية واجهة برمجة التطبيقات. أحتاج إلى فهم هذا الأمر بشكل أفضل، ولكن هل أنا على المسار الصحيح؟
حسنًا، حاليًا لا يوجد إعداد لنموذج التضمين المخصص، وهذا يمثل مشكلة كبيرة.
عند التشغيل محليًا، يمكنك تجربته عن طريق ترميز النموذج يدويًا إلى النموذج الذي قمت بتنزيله لـ Ollama.
بالتفكير في هذا الأمر أكثر، فإن المشكلة الأخرى التي ستواجهها هي أن تعريف جدول التضمينات يحتوي على أبعاد مضبوطة على معيار نموذج OpenAI الصغير وهو ضخم للغاية… ربما يمكنك التفكير في كيفية التغلب على ذلك…
Chatbot 1.2. يقدم جمع حقول المستخدم المدعوم بالذكاء الاصطناعي كميزة تجريبية.
إذا كان لدى المستخدم بعض حقول المستخدم الاختيارية فارغة حاليًا، فإن تمكين هذا الإعداد سيؤدي إلى بدء الروبوت في مطالبة المستخدم بالمعلومات. سيتقدم عبر حقول المستخدم المعلقة حتى يتم إكمالها ثم يعود إلى السلوك الطبيعي.

(عذرًا على بطء الاستجابة - تم تسجيل هذا في بيئة التطوير)
ملاحظة: هذه الميزة تدعم فقط:
- نص
- قوائم منسدلة
- تأكيدات
الاختيار المتعدد غير مدعوم بعد.
يجب أن تكون الحقول اختيارية.
يحدد ترتيب حقول المستخدم الأولوية.
تم إصدار Chatbot 1.3 ![]()
- ميزة: إضافة خيار لإدارة الحصص حسب الرمز المميز
- الإعداد الجديد
chatbot_quota_basisيسمح لك بالاشتراك، وإلا فسيظل حسب عدد الاستعلامات - الفرق الوحيد افتراضيًا هو أن الحصة تُحسب تنازليًا من الحد الأقصى للحصة المبدئي (الذي لا يزال يعتمد على نفس إعدادات مستوى الثقة).
- الإعداد الجديد
- ميزة: تضمين تكلفة استدعاءات واجهة برمجة التطبيقات مثل DALL-E في استهلاك المستخدم
- أساس الرمز المميز فقط
- العديد من الإعدادات الجديدة للتعديل للتأثير على تكلفة الرمز المميز لميزات واجهة برمجة التطبيقات
- ميزة: إضافة وظيفة للسماح للمستخدم بالتحقق من حصته المتبقية
لطالما تضمن Chatbot القدرة على فرض حصة استخدام.
اليوم يصبح هذا أكثر تطوراً!
يمكن لـ Chatbot الآن تتبع وفرض حصة على الاستخدام حسب الرمز المميز.
يمكنك حساب تكلفة استدعاءات واجهات برمجة التطبيقات لتثبيط الإفراط في استخدامها، حتى تشعر بقلق أقل بشأن منح الأشخاص الوصول إلى إنشاء الصور، على سبيل المثال.
تتبع الرموز المميزة اختياري. إذا قمت بالتبديل إلى تتبع الرموز المميزة، فتأكد من زيادة حصة كل مستوى ثقة، لأن القيم ستحتاج إلى أن تكون أكبر ببضعة أضعاف. جرب.
ومع ذلك، فقد تغير التتبع حسب الاستعلام قليلاً. سيعود الآن إلى الحد الأقصى المسموح به لعدد استعلاماتك ويعد تنازليًا إلى الصفر.
قد تفكر في تشغيل مهمة إعادة تعيين الحصة العالمية مرة واحدة كإجراء لمرة واحدة للتأكد من أن الجميع يبدأ بحصة كاملة. هذا لمرة واحدة فقط!
في sidekiq على /sidekiq/scheduler:
اضغط على زر التشغيل.
في كلتا الحالتين، يمكن للمستخدمين الآن السؤال عن مقدار الحصة المتبقية لديهم:
ملاحظة: مشكلة معروفة: إذا تم طرح هذا السؤال لأول مرة قبل تشغيل مهمة إعادة التعيين، فقد تكون الإجابة غريبة بعض الشيء! بغض النظر عن تشغيل مهمة إعادة التعيين، فإن المرة الثانية التي يتم فيها طرح هذا السؤال يجب أن تعمل بشكل جيد.
مرحباً روبرت،
أقدر كل العمل الذي قمت به في البوت، ولكنني أواجه الخطأ التالي في السجلات عند محاولة استدعائه في الدردشة.
![]()
هل لديك أي أفكار دون الحاجة إلى إلغاء التثبيت وإعادة التثبيت؟





