我不得不使用一些 LiteLLM 的“黑科技”手段,才能让某些模型在 Discourse AI 中正常运行。
你试过不同的推理模型吗?有些 LLM 只有在启用该功能时才能工作,而另一些则需要将其设置为低(而非最低)或始终默认开启;通常这会带来较大的开销。