Discourse 聊天机器人 🤖

我们的机器人一直超时,直到我们将推理设置为最小。谢谢!

1 个赞

说实话,我觉得 GPT-5 的响应速度普遍太慢了,而且响应时间增加得并不明显。

你觉得它对你的支持机器人怎么样?

我尝试了通过 ChatGPT 使用 gpt-5,这与通过 API 使用有很大不同,它需要很长的推理时间才能给出比 4o 或 o1 稍好的答案。当它需要快速回答时,它并不比 4.1 好。

我相当确定,在使用 API 时,由于缺乏工具和提示,情况大致相同,甚至更糟。但我不能确定,因为 gpt-5 慢得令人痛苦,而在论坛环境中,它必须以接近光速的速度回答。

1 个赞

在内容表现方面,根据我的经验,GPT-5 提供的技术性答案似乎明显优于 GPT-4o。我不确定如何量化这一点,但它给我留下了深刻的印象。

我注意到响应时间的结果各不相同。通过今早的实验,GPT-5 的平均响应速度似乎稍慢一些,但差距不大,而且在某些情况下,GPT-5 的响应速度更快。我测得的回复时间在 5 秒到 35 秒之间。

我们正在使用 RAG,但我无法确定延迟是来自 RAG 搜索还是聊天完成。有可能是它有时选择不进行 RAG 搜索,搜索速度更快,或者某些东西被缓存了(在搜索或完成中)。

我们通常会选择更好的答案而不是更快的响应,因为给客户提供错误的技术建议代价高昂。但也有一个度,如果超时了,那将是非常糟糕的用户体验。

GPT-5 主要建议在我们的用例中主要使用 gpt-5-mini,并在某些情况下升级到 gpt-5。听起来很棒但很复杂。您是否考虑过动态切换模型?为什么 OpenAI 不自动执行此操作?ChatGPT - Compare GPT models performance

1 个赞

由于 gpt-5-mini 似乎认为自己能做它做不到的事情,我们不得不切换回 gpt-4o。它自信地提出要为客户设置他们的警报监控服务,并将其连接到他们的家庭警报设备。它向客户索要设备 ID 号码,并像礼宾员一样为他们设置好一切,但实际上是在胡说八道。我们的网站可以做到这一点,但聊天机器人不能。它似乎不像 gpt-4o 那样遵守系统提示中的护栏。我们需要收紧它,然后才能让人们使用它。

更新:事实证明,gpt-5 在遵循指令和遵守提示中的规则方面比 gpt-5-mini 好得多。如果你要让一个机器人代表你的品牌,我推荐 gpt-5,尽管它速度较慢且价格是 gpt-5-mini 的 5 倍。gpt-5-mini 脱轨的风险太大了。

1 个赞

我在通过工具调用、代码编写和结构化数据的智能体流程中,对 GTP-5-mini 取得了非常好的效果。我通常发现结构化数据比非结构化数据更容易用于 AI 应用!……这与我的预期相反!但是,护栏(如循环内代码、循环内人工、LLM 作为裁判等)更容易实现。

请观看此视频,了解高性能、低成本的 gpt-5-mini 和 gpt-4o 的详细演练……

如果有人有兴趣将结构化数据功能集成到 Discourse 中作为插件等,请与我联系。

一个用于 SQL/统计/数据科学的 NLP 扩展是数据探索器的一个例子……但也可能有一个工具/插件/功能,允许对加载到容器中的只读 sqlLite 或 duckdb 等 OLAP 文件进行自然语言查询?只是一个想法……:thinking:

顺便说一下,我已将 GPT 5.1 添加到插件中,并进行了一些修复:

https://github.com/merefield/discourse-chatbot/pull/147

1 个赞

@tom_eric 你在另一个主题中询问了与论坛其他成员一起玩游戏的功能 (https://meta.discourse.org/t/does-discourse-support-any-online-multiplayer-mini-games-e-g-go-gomoku-chess/389946/3)。

我用 Chatbot 试了这个提示,它似乎与 GPT 5.1 兼容,你可以试试:

@Chatbot 促成一场 9x9 的围棋对局,参与者是 @Other_Player 和我,使用 markdown 表格来渲染棋盘 - 让我先走,并且只接受我或 @Other_Player 的落子,并且只在轮到我们时才接受 - 渲染棋盘并要求我开始……

1 个赞

哦,谢谢你。那真是个富有创意的想法。哦,谢谢你。那真是个富有创意的想法。

1 个赞

不客气,让我知道结果如何 :+1:

一个稍微定制的开发设置让我在使用这个插件和 Discourse Frotz 时,尝试了让聊天机器人玩 Zork :wink:

(这里使用的是推理能力较低的 GPT 5.1)

过了一会儿:

得分相当高!还有:

:open_mouth:

(抱歉,设置有点太复杂了,无法在此简单分享)。

1 个赞

哇!我不知道那是可能的。我想只要提示词好,几乎任何事情都是可能的 :sweat_smile:

1 个赞

聊天机器人模型下拉菜单现在有了 gpt 5.2 和 5.2 pro——对于 5.2,现在有了一个 xhigh 推理级别,如果你喜欢烧代币和破坏环境的话 :sweat_smile:

您可能还会注意到,数学插件的用户现在可以轻松地让聊天机器人讨论数学问题,并带有精美渲染的数学方程,而无需向系统提示中添加任何内容……

1 个赞

我把启动按钮移到了右下角一个更整洁的位置(iOS PWA/应用除外)——如果它没有按预期工作,请告诉我。

这本来是为了简化 CSS,同时适应 iOS 上那些烦人的控制栏,但我再也受不了了,它太碍眼了:face_vomiting: :sweat_smile:

@ThisSource 这是第一个用于 Discourse 的 AI 聊天机器人,并且仍在运行中:).

很高兴地宣布,我的第一个长期业务赞助商 Surety 现已入驻 README 中新的“项目赞助商”部分。

Surety 的使命是以最透明、最高效的方式,打破家庭安防行业的趋势,为自己动手的人提供专业级的安防报警监控和家庭自动化服务。

感谢 Surety!

@37Rb

如果您想成为我某个项目的赞助商,请查看:Sponsor @merefield on GitHub Sponsors · GitHub :folded_hands:

2 个赞

近期 PR 摘要 — 2026年8月1日至3日

多个相关的 PR 已在 Discourse Chatbot 及其扩展插件中合并。

亮点

  • 引入了高级本地推理策略,包括验证与修订、择优二选一以及不确定性引导推理。
  • 添加了当前的 OpenAI 模型及新的最大推理努力(max reasoning effort)选项。
  • 添加了基于嵌入相似性的语义屏蔽问题网关。
    • 通过嵌入技术屏蔽您不希望机器人处理的主题,从而在不消耗 LLM token 的情况下实现显著节省。
  • 将基础版和 RAG 实现整合为单一的 DiscourseChatbot::Bot。
  • 用内置的信任等级工具选择器替换了机器人模式设置。
  • 将扩展 API 的名称从“Function”改为“Tool”。
  • 用受限的 Dentaku 表达式求值器替换了基于 SafeRuby 的计算器工具——这在安全性方面是一个重大改进,因为尽管名为 SafeRuby,但它存在漏洞。
  • 在 Chatbot 及其扩展插件中全面采用 Zeitwerk 加载机制。
  • 将特定于位置的工具移至 Locations Early Access 插件(赞助我以重新获得访问权限)
  • 改进了计算器的错误恢复及对常见 π/e 符号的支持。
  • 更新了 README
  • 主插件版本从 1.8.0 升级至 2.4.1。

Discourse Chatbot

配套插件

2 个赞

2 个赞