استضافة ذاتية لنموذج لغوي كبير مفتوح المصدر لـ DiscourseAI

شكراً! لاحظت أيضاً أن الرابط يعمل فقط عند تفعيل إضافة الذكاء الاصطناعي :person_facepalming:

بالنسبة لمزود الخدمة المضاف حديثاً، هل لديكم أي اقتراحات حول ما يجب اختياره/تعيينه للإعدادات الإلزامية التالية؟

  1. مرمز الرموز (Tokenizer)
  2. نافذة السياق (Context window)

بالنسبة للنموذج، كنت أفكر في استخدام stablelm2:1.6b أو translategemma:4b لكنني لا أعرف بعد.
في دليل الاستخدام (README) الخاص بالنموذج الأخير، يوجد وصف لموجه الإدخال. أتساءل ما هو الاستعلام الذي ترسله ميزة الترجمة بالذكاء الاصطناعي إلى Ollama. راجع /admin/plugins/discourse-ai/ai-agents/-28/edit