Discourse AI 开始失控

[EricGT]

由于我并非对 Discourse AI 的每一项当前设置都了如指掌，以下是我所能理解的最佳情况。

在我的网站和您的网站上，该设置均显示为：

默认 LLM 模型： CDCK Hosted LLM

据我查找，这是 Discourse 托管的 LLM 服务。更准确地说，当前的 CDCK/MoM 实现是一个**混合模型（Mixture of Models）**路由层，而不是单一的固定模型。它可以根据任务将请求路由到不同的开源权重模型。Discourse 在这里有一个有用的解释：

什么是 CDCK/MoM？

如果您的 Discourse 站点由我们托管，您可能已经注意到 AI 设置中有一个名为 CDCK Hosted Model 或 CDCK/MoM 的大语言模型（LLM），它为摘要生成、AI 搜索等功能提供支持。本主题将解释它是什么以及它是如何工作的。 简而言之 CDCK/MoM（“混合模型”，Mixture of Models）是我们为托管客户提供的内置 LLM，无需额外费用，由您站点每日的 AI 积分（AI credits）额度驱动。它并不是单一模型，而是由 CDCK（Discourse 背后的公司）运营的智能路由层，会将每个请求发送给几个精选的开源权重模型之一。 为什么要使用混合模型？ 不同的 AI 功能有不同的需求。对长主题进行摘要生成、生成搜索嵌入上下文以及驱动助手角色，对模型的要求各不相同——上下文长度、速度、推理深度和成本都存在差异。 CDCK/MoM 不会将所有功能锁定在单一模型上，而是将每个请求路由到最适合该任务的模型。这使我们能够： 让模型匹配任务 —— 快速任务使用快速模型；更复杂的任务使用能力更强的模型。 保持与时俱进 —— 当有更好模型可用时，我们可以…

另一个有用的检查位置是：

/admin/plugins/discourse-ai/ai-llms

这是 Discourse AI 的 LLM 配置页面，管理员可以在这里查看已配置的 LLM 连接以及可用于 Discourse AI 功能的模型。

例如，在我担任管理员的网站上，我看到的是：

这将表明它是否支持您所使用的操作。

这似乎回答了我之前关于模型和设置的问题。