Comment configurer Discourse pour utiliser un LLM installé localement ?

Soutien
8

Sans compromis

  • DeepSeek V3 0324
  • Qwen 3 235B A22

Équilibré

  • Qwen 3 32B / 30B A3B
  • Llama 3.3 70B
  • Qwen 2.5 70B

Léger

Peut-être unsloth/gemma-3-4b-it-qat-GGUF · Hugging Face ? C’est difficile à ce niveau, beaucoup plus économique d’utiliser une API hébergée, comme OpenRouter.

4 « J'aime »