Ai推理模式报错

我不得不使用一些 LiteLLM 的“黑科技”手段,才能让某些模型在 Discourse AI 中正常运行。

你试过不同的推理模型吗?有些 LLM 只有在启用该功能时才能工作,而另一些则需要将其设置为低(而非最低)或始终默认开启;通常这会带来较大的开销。