关于 Discourse LLM 配置的随机讨论

在过去的一周里,我们对用户界面进行了大量改进,您可以再试一次吗?

Gemini 2.0 何时会得到支持?

得到了相当长一段时间的支持。

我似乎遇到一个问题,虽然我已经配置了已托管的CDCK,但仍然无法选择LLM。

这是正常的吗?

这里有很多需要解读的地方,您想为哪种功能选择哪种大型语言模型(LLM)?

CDCK LLM 仅适用于非常特定的功能。要查看具体是哪些功能,请前往您的实例上的 /admin/whats-new,然后点击“仅显示实验性功能”。您需要启用它们才能在特定功能上解锁 CDCK LLM。

您在 CDCK LLM 之外定义的任何 LLM 都可用于所有功能。

是否也有一个提供最佳成本/质量平衡的总体概述的主题?或者甚至有一个可以免费供小型社区和基本功能使用的 LLM?我可以深入研究细节并进行尝试。但我时间有点紧。

例如,我只关心垃圾邮件检测和脏话过滤器。我曾免费拥有这些,但那些插件已弃用或即将弃用。如果我能在不付费使用 LLM 的情况下保留此功能,那就太好了。

我们确实有这个主题,这可能就是您想要的。

搞定了!确实很简单。但对于非技术人员来说,设置起来可能还是有点难。例如,模型名称在设置中是自动设置的,但不是正确的。幸运的是,我在 API 页面的 Claude 的 curl 示例中认出了模型名称,然后它就起作用了 :tada:

每月垃圾邮件控制的估计成本可能为 30 欧元分(我的论坛不是很大)。所以这是可以接受的!我已在 API 控制台中设置了 5 欧元的限额,以防万一。

你为 Claude 选择了哪个?显示的错误名称是什么,你又将其更正为什么?

我使用的是Claude 3.5,模型ID默认是claude-3-5-haiku,但我不得不将其更改为claude-3-5-haiku-20241022,否则会出现错误。

很高兴知道,是的,有时可能会出现脱节。自动填充的信息应作为指导,大多数情况下都能正常工作,但在某些情况下(考虑到所有不同的模型和提供商配置)可能会出现不足,就像您的情况一样。

我已经更新了本指南的 OP。

此模型未在 3.4.2 中列出 - 这些预配置仅在 3.5 中可用,我必须手动添加它们吗?

编辑:另外,在使用 Grok 3 模型时,我应该为“Tokenizer”选择哪个选项?

预配置只是模板,您可以通过使用“手动配置”获得相同的结果。

我发现 Gemini 分词器与 Grok 分词器非常接近,所以可以试试那个。

是否可以通过当前的配置管理来使用 IBM WatsonX,还是这需要 Discourse 员工进行额外的开发工作?

IBM WatsonX 是否有任何暴露 OpenAI 兼容的 API?

好问题。快速浏览了一下文档,但没有告诉我太多信息,但这个仓库的存在表明它不直接兼容:GitHub - aseelert/watsonx-openai-api: Watsonx Openai compatible API · GitHub

哪些大型语言模型可以免费用于反垃圾邮件?

编辑:不用了,我正在使用 Gemini Flash 2.5。

我也一直想知道。这似乎是这个问题的最佳答案。

但也有这个,来自垃圾邮件配置主题的 OP。我认为它只是有点难在所有信息中找到。

你好,我是 Discourse 的新手。我刚刚尝试设置 gemini-3.1-flash-lite,但没有成功。希望能得到您的支持。谢谢。

  1. 模型 IDgemini-3.1-flash-lite
  2. 提供商Google
  3. 托管模型的服务 URLhttps://generativelanguage.googleapis.com/v1beta/models/gemini-3.1-flash-lite

好的 :blush: :blush:… 我想要一个 xAI Grok 的近亲