هل هناك طريقة لإضافة مفتاح واجهة برمجة تطبيقات (API) من نموذج لغوي كبير (LLM) غير مدرج؟ نحن نستخدم نموذجًا لغويًا كبيرًا يسمى Deepseek ونود دمجه. لدينا بالفعل مفاتيح واجهة برمجة التطبيقات (API) وما إلى ذلك.

هل يمكنني إضافة نماذج لغة كبيرة أخرى؟

sam (Sam Saffron) 1 أغسطس 2024، 12:01ص 3

إنه يعمل مع VLLM، يمكنك ببساطة تكوين نقطة نهاية VLLM ويجب أن يعمل بشكل مباشر.

6 إعجابات

Debugging adding new LLM

الموضوع		الردود	مرات العرض
DeepSeek provider support? What to do when model provider isn't in "Provider" list? Support ai	13	767	5 مارس 2025
Debugging adding new LLM Support ai	8	315	23 أغسطس 2024
How to configure Discourse to use a locally installed LLM? Support ai	8	200	17 سبتمبر 2025
I need help to configure LLM DeepSeek R1 0528 - free for Automatic translations with Discourse AI Support content-localization	34	216	4 يناير 2026
Create custom LLM plugin or any other option? Support	4	114	25 فبراير 2025