هل هناك طريقة لإضافة مفتاح واجهة برمجة تطبيقات (API) من نموذج لغوي كبير (LLM) غير مدرج؟ نحن نستخدم نموذجًا لغويًا كبيرًا يسمى Deepseek ونود دمجه. لدينا بالفعل مفاتيح واجهة برمجة التطبيقات (API) وما إلى ذلك.

هل يمكنني إضافة نماذج لغة كبيرة أخرى؟

sam (Sam Saffron) 1 أغسطس 2024، 12:01ص 3

إنه يعمل مع VLLM، يمكنك ببساطة تكوين نقطة نهاية VLLM ويجب أن يعمل بشكل مباشر.

6 إعجابات

Debugging adding new LLM

Rebuilding Discourse after invalid GitHub repo addition

الموضوع		الردود	مرات العرض
DeepSeek provider support? What to do when model provider isn't in "Provider" list? Support ai	13	711	5 مارس 2025
Debugging adding new LLM Support ai	8	288	23 أغسطس 2024
How to configure Discourse to use a locally installed LLM? Support ai	8	173	17 سبتمبر 2025
Create custom LLM plugin or any other option? Support	4	98	25 فبراير 2025
Self-Hosting an OpenSource LLM for DiscourseAI Self-Hosting ai	5	3188	21 فبراير 2025