keegan
(Keegan George)
1
我们很高兴地宣布，我们的托管客户现在可以使用我们自己的托管、开放权重的大型语言模型（LLM） 来驱动每一个 Discourse AI 功能，该模型预先配置好，并免费包含在您的托管服务中。
这意味着 Starter、Pro、Business 和 Enterprise 客户都可以使用所有 AI 功能，无需任何第三方 LLM 提供商。
启用托管 LLM
该功能应该已经可以在您的站点上通过 LLM 配置页面启用：
管理员 → 插件 → Discourse AI → LLM
默认情况下，“CDCK 托管小型 LLM”将作为您的默认 LLM 被选中，并且您的站点上的任何 角色（persona） 也应可以选择它。
用量和限制
Discourse 通过积分系统来衡量托管 LLM 的使用情况。每个请求或响应的 token 消耗 1 个积分。积分与您的托管级别成正比，并且每天重置。
✱ 某些功能，例如 AI 垃圾邮件检测，将不计入您的积分
每个级别的积分限制可以在我们网站的定价页面上找到。达到每日限制后，任何依赖 LLM 的 AI 功能将暂停，直到第二天积分重置。
如果您很快用完积分，可以考虑使用 LLM 配额系统为每个用户或每组设置限制。如果您需要额外的容量，升级到更高的级别是另一种选择。
您可以随时从管理面板的 AI 用量页面查看站点的 AI 用量。
有关积分耗尽时该怎么做的更多详细信息，请参阅：
6 个赞
mcmcclur
(Mark McClure)
2
CDCK 托管的小型 LLM 是否可以通过 API 供自托管的 Discourse 实例使用？如果是，我猜会产生相关费用。
2 个赞
Falco
(Falco)
3
不，它不可用，我们也不打算这样做。
对于自托管实例，选择 Gemini 免费套餐或 OpenRouter 等是很好的替代方案。
7 个赞
