当 LLM 发生变化时,翻译会怎样?

如果我更换 LLM,所有帖子会被重新翻译吗?

我之前使用的是托管在 Groq 上的 LLM,进度已完成约 95%,但随后开始报错。经过调查,我发现 Groq 已弃用了我正在使用的模型。于是我在 Groq 上配置了一个新模型,并在 Discourse 中更新了模型参数。

我注意到,Discourse 现在每天使用更新的翻译 LLM 消耗数百万个 token,但翻译状态页面上的进度条完全没有进展(仍卡在 95%)。

因此,我想了解当 LLM 参数发生变化时会发生什么?它是否会从头开始重新进行所有翻译?如果是这样,是否有办法阻止这种情况,让它从上次中断的地方继续?

这取决于具体情况。例如,如果您使用 Gemini 模型进行翻译,然后切换到另一个模型,您将会创建一个新的词汇缓存。根据我的经验,我更喜欢保留三条路由:其中两条使用相同的模型,最近我为新内容启用了 Gemini Flash Lite,到目前为止一切正常。

旧的翻译会被保留,新的 LLM 只会翻译之前尚未翻译的内容。