استضافة ذاتية لنموذج لغة مفتوح المصدر لـ DiscourseAI

هل ستكون هناك طريقة لإضافة رأس HTTP مخصص لطلبات Discourse AI؟ لدينا خادم مزود بوحدة معالجة رسومات (GPU) نستخدمه لأغراض متنوعة، ولديه واجهة برمجة تطبيقات (API) متوافقة مع OpenAI، ولكن لأسباب أمنية، وضعناه خلف بوابة إدارة واجهة برمجة التطبيقات (API Management gateway)، والتي تتطلب رأس HTTP مخصصًا (شيئًا مثل SubscriptionKey) ونحن نوفر مفتاح المصادقة الخاص بنا هنا.

لاحظ أن مفتاح المصادقة هذا مخصص للمرور عبر APIM، وهو يختلف عن مفتاح واجهة برمجة التطبيقات الذي قد يوفره المرء لخدمة مثل واجهة برمجة تطبيقات OpenAI.

سيكون من الرائع إذا كانت هناك طريقة لإضافة رؤوس مخصصة في إعداد كل LLM في صفحة الإعداد admin/plugins/discourse-ai/ai-llms. ربما خيار “مخصص” في القائمة المنسدلة “الموفر” (Provider)، مع خيارات إضافية لحالات الاستخدام مثل هذا؟

إعجاب واحد (1)