احتجتُ إلى القيام ببعض التعديلات غير القياسية (hacky) باستخدام LiteLLM لجعل بعض النماذج تعمل في Discourse AI.
هل جرّبتَ نماذج استنتاج مختلفة؟ بعض نماذج اللغة الكبيرة (LLMs) تعمل فقط عند تفعيله، بينما تعمل أخرى عند ضبطه على مستوى منخفض (وليس الحد الأدنى) أو على الوضع الافتراضي دائمًا؛ وهذا عادةً ما يكون مرهقًا.