为 DiscourseAI 自托管一个开源 LLM

[Falco]

@mononym

还有另一个问题。我们之前使用的是翻译插件，搭配一个慷慨提供的 LibreTranslate 实例。

那为什么不再继续使用它呢？我们不再更新它，但它仍会按原样继续工作。

@mononym

是否无法将 Discourse AI 的翻译功能接入该 LibreTranslate 端点？毕竟，这比在没有真正 LLM 能力的服务器上托管 Ollama 实例要容易得多。

Discourse AI 的翻译功能遵循与原始翻译插件完全不同的约束条件，因此我们从头开始构建了它，以应对这个新世界，其中基于 LLM 的翻译比之前通过 ML 翻译 API 所能实现的更好且更便宜。