@Falco @sam هل هناك أي خيارات إذا أردنا استخدام مزود الذكاء الاصطناعي الخاص بنا خارج ما هو متاح في الإعدادات؟ على سبيل المثال، إذا كنا نستضيفه بأنفسنا، إذا كنا نستخدم خدمة مثل mendable.ai، إلخ.
نحن ندعم واجهات برمجة التطبيقات لكل من vLLM و TGI للاستدلال على نماذج اللغة الكبيرة (LLM)، بالإضافة إلى أي واجهة برمجة تطبيقات تحاكي واجهة OpenAI يجب أن تعمل عن طريق تعيين ai openai gpt4 url للإشارة إليها.
يبدو أنه ليس مطابقًا تمامًا لـ OpenAI، ولكنه قريب جدًا:
بالنظر إلى واجهة برمجة التطبيقات (API)، خاصة وأننا بحاجة إلى استدعاء newConversation وتخزين الحالة، فسيتطلب الأمر بضعة أيام من العمل لتنفيذ نقطة نهاية لغة/واجهة برمجة تطبيقات لـ discourse AI.
يمكن إنجاز ذلك تمامًا حسب ما أرى، ولكنه عمل مخصص. يمكننا القيام بذلك إذا كنت ترغب في الرعاية.
شخصيًا، لست متأكدًا من أن هذه الحيوانات المخصصة ستتفوق على النماذج الرائدة على المدى الطويل، وللأسف بالنسبة لـ mendable، قد تكون على بعد إصدار GPT-5 واحد فقط من أن تصبح قديمة جدًا.
حتى أشياء مثل GPT-4 / Claude Opus اليوم، عند صقلها بعناية، يمكنها التفوق على هذا.
يعمل @Roman على السماح لك بحقن سياق خارجي إضافي عبر الملفات في شخصية.
يمكننا بالفعل القيام بأشياء مذهلة جدًا بشخصية مخصصة اليوم، يمكنك بسهولة تكييف مساعد GitHub ليكون خاصًا بـ sailpoint على سبيل المثال: