Come configurare Discourse per utilizzare un LLM installato localmente?

Supporto
8

Senza compromessi

  • DeepSeek V3 0324
  • Qwen 3 235B A22

Bilanciato

  • Qwen 3 32B / 30B A3B
  • Llama 3.3 70B
  • Qwen 2.5 70B

Leggero

Forse unsloth/gemma-3-4b-it-qat-GGUF · Hugging Face? È difficile a questo livello, molto più economico usare un’API ospitata, come OpenRouter.

4 Mi Piace