¿Cómo configurar Discourse para usar un LLM instalado localmente?

Sin concesiones

  • DeepSeek V3 0324
  • Qwen 3 235B A22

Equilibrado

  • Qwen 3 32B / 30B A3B
  • Llama 3.3 70B
  • Qwen 2.5 70B

Ligero

¿Quizás unsloth/gemma-3-4b-it-qat-GGUF · Hugging Face? Es difícil a este nivel, es mucho más económico usar una API alojada, como OpenRouter.

4 Me gusta