كيفية تكوين Discourse لاستخدام نموذج لغوي كبير مُثبَّت محليًا؟

غير قابلة للتسوية

  • DeepSeek V3 0324
  • Qwen 3 235B A22

متوازنة

  • Qwen 3 32B / 30B A3B
  • Llama 3.3 70B
  • Qwen 2.5 70B

خفيفة

ربما https://huggingface.co/unsloth/gemma-3-4b-it-qat-GGUF؟ من الصعب في هذا المستوى، وأكثر اقتصادية استخدام واجهة برمجة تطبيقات مستضافة، مثل OpenRouter.

4 إعجابات