ローカルにインストールされたLLMを使用するようにDiscourseを設定する方法

妥協なし

  • DeepSeek V3 0324
  • Qwen 3 235B A22

バランス型

  • Qwen 3 32B / 30B A3B
  • Llama 3.3 70B
  • Qwen 2.5 70B

軽量型

unsloth/gemma-3-4b-it-qat-GGUF · Hugging Face はどうでしょうか? このレベルでは難しいですが、OpenRouterのようなホストAPIを使用する方がはるかに経済的です。

「いいね!」 4