Как настроить Discourse для использования локально установленного LLM?

Поддержка
8

Некомпромиссная

  • DeepSeek V3 0324
  • Qwen 3 235B A22

Сбалансированная

  • Qwen 3 32B / 30B A3B
  • Llama 3.3 70B
  • Qwen 2.5 70B

Легковесная

Возможно, unsloth/gemma-3-4b-it-qat-GGUF · Hugging Face? На этом уровне это сложно, гораздо экономичнее использовать хостовый API, например OpenRouter.