我们的机器人一直超时,直到我们将推理设置为最小。谢谢!
说实话,我觉得 GPT-5 的响应速度普遍太慢了,而且响应时间增加得并不明显。
你觉得它对你的支持机器人怎么样?
我尝试了通过 ChatGPT 使用 gpt-5,这与通过 API 使用有很大不同,它需要很长的推理时间才能给出比 4o 或 o1 稍好的答案。当它需要快速回答时,它并不比 4.1 好。
我相当确定,在使用 API 时,由于缺乏工具和提示,情况大致相同,甚至更糟。但我不能确定,因为 gpt-5 慢得令人痛苦,而在论坛环境中,它必须以接近光速的速度回答。
在内容表现方面,根据我的经验,GPT-5 提供的技术性答案似乎明显优于 GPT-4o。我不确定如何量化这一点,但它给我留下了深刻的印象。
我注意到响应时间的结果各不相同。通过今早的实验,GPT-5 的平均响应速度似乎稍慢一些,但差距不大,而且在某些情况下,GPT-5 的响应速度更快。我测得的回复时间在 5 秒到 35 秒之间。
我们正在使用 RAG,但我无法确定延迟是来自 RAG 搜索还是聊天完成。有可能是它有时选择不进行 RAG 搜索,搜索速度更快,或者某些东西被缓存了(在搜索或完成中)。
我们通常会选择更好的答案而不是更快的响应,因为给客户提供错误的技术建议代价高昂。但也有一个度,如果超时了,那将是非常糟糕的用户体验。
GPT-5 主要建议在我们的用例中主要使用 gpt-5-mini,并在某些情况下升级到 gpt-5。听起来很棒但很复杂。您是否考虑过动态切换模型?为什么 OpenAI 不自动执行此操作?ChatGPT - Compare GPT models performance
由于 gpt-5-mini 似乎认为自己能做它做不到的事情,我们不得不切换回 gpt-4o。它自信地提出要为客户设置他们的警报监控服务,并将其连接到他们的家庭警报设备。它向客户索要设备 ID 号码,并像礼宾员一样为他们设置好一切,但实际上是在胡说八道。我们的网站可以做到这一点,但聊天机器人不能。它似乎不像 gpt-4o 那样遵守系统提示中的护栏。我们需要收紧它,然后才能让人们使用它。
更新:事实证明,gpt-5 在遵循指令和遵守提示中的规则方面比 gpt-5-mini 好得多。如果你要让一个机器人代表你的品牌,我推荐 gpt-5,尽管它速度较慢且价格是 gpt-5-mini 的 5 倍。gpt-5-mini 脱轨的风险太大了。
我在通过工具调用、代码编写和结构化数据的智能体流程中,对 GTP-5-mini 取得了非常好的效果。我通常发现结构化数据比非结构化数据更容易用于 AI 应用!……这与我的预期相反!但是,护栏(如循环内代码、循环内人工、LLM 作为裁判等)更容易实现。
请观看此视频,了解高性能、低成本的 gpt-5-mini 和 gpt-4o 的详细演练……
如果有人有兴趣将结构化数据功能集成到 Discourse 中作为插件等,请与我联系。
一个用于 SQL/统计/数据科学的 NLP 扩展是数据探索器的一个例子……但也可能有一个工具/插件/功能,允许对加载到容器中的只读 sqlLite 或 duckdb 等 OLAP 文件进行自然语言查询?只是一个想法……![]()
顺便说一下,我已将 GPT 5.1 添加到插件中,并进行了一些修复:
@tom_eric 你在另一个主题中询问了与论坛其他成员一起玩游戏的功能 (https://meta.discourse.org/t/does-discourse-support-any-online-multiplayer-mini-games-e-g-go-gomoku-chess/389946/3)。
我用 Chatbot 试了这个提示,它似乎与 GPT 5.1 兼容,你可以试试:
@Chatbot 促成一场 9x9 的围棋对局,参与者是 @Other_Player 和我,使用 markdown 表格来渲染棋盘 - 让我先走,并且只接受我或 @Other_Player 的落子,并且只在轮到我们时才接受 - 渲染棋盘并要求我开始……
哦,谢谢你。那真是个富有创意的想法。哦,谢谢你。那真是个富有创意的想法。
不客气,让我知道结果如何 ![]()
一个稍微定制的开发设置让我在使用这个插件和 Discourse Frotz 时,尝试了让聊天机器人玩 Zork ![]()
(这里使用的是推理能力较低的 GPT 5.1)
过了一会儿:
得分相当高!还有:
(抱歉,设置有点太复杂了,无法在此简单分享)。
哇!我不知道那是可能的。我想只要提示词好,几乎任何事情都是可能的 ![]()
聊天机器人模型下拉菜单现在有了 gpt 5.2 和 5.2 pro——对于 5.2,现在有了一个 xhigh 推理级别,如果你喜欢烧代币和破坏环境的话 ![]()
您可能还会注意到,数学插件的用户现在可以轻松地让聊天机器人讨论数学问题,并带有精美渲染的数学方程,而无需向系统提示中添加任何内容……
我把启动按钮移到了右下角一个更整洁的位置(iOS PWA/应用除外)——如果它没有按预期工作,请告诉我。
这本来是为了简化 CSS,同时适应 iOS 上那些烦人的控制栏,但我再也受不了了,它太碍眼了:face_vomiting: ![]()
@ThisSource 这是第一个用于 Discourse 的 AI 聊天机器人,并且仍在运行中:).
很高兴地宣布,我的第一个长期业务赞助商 Surety 现已入驻 README 中新的“项目赞助商”部分。
Surety 的使命是以最透明、最高效的方式,打破家庭安防行业的趋势,为自己动手的人提供专业级的安防报警监控和家庭自动化服务。
感谢 Surety!
如果您想成为我某个项目的赞助商,请查看:Sponsor @merefield on GitHub Sponsors · GitHub ![]()
近期 PR 摘要 — 2026年8月1日至3日
多个相关的 PR 已在 Discourse Chatbot 及其扩展插件中合并。
亮点
- 引入了高级本地推理策略,包括验证与修订、择优二选一以及不确定性引导推理。
- 添加了当前的 OpenAI 模型及新的最大推理努力(max reasoning effort)选项。
- 添加了基于嵌入相似性的语义屏蔽问题网关。
- 通过嵌入技术屏蔽您不希望机器人处理的主题,从而在不消耗 LLM token 的情况下实现显著节省。
- 将基础版和 RAG 实现整合为单一的 DiscourseChatbot::Bot。
- 用内置的信任等级工具选择器替换了机器人模式设置。
- 将扩展 API 的名称从“Function”改为“Tool”。
- 用受限的 Dentaku 表达式求值器替换了基于 SafeRuby 的计算器工具——这在安全性方面是一个重大改进,因为尽管名为 SafeRuby,但它存在漏洞。
- 在 Chatbot 及其扩展插件中全面采用 Zeitwerk 加载机制。
- 将特定于位置的工具移至 Locations Early Access 插件(赞助我以重新获得访问权限)
- 改进了计算器的错误恢复及对常见 π/e 符号的支持。
- 更新了 README
- 主插件版本从 1.8.0 升级至 2.4.1。
Discourse Chatbot
-
#162 — 修复:保留 Responses API 推理状态 (FIX: Preserve Responses API reasoning state - Pull Request #162 - merefield/discourse-chatbot - GitHub)
使 Responses API 的推理和工具延续更加可靠,引入了可配置的迭代和 token 限制,
改进了 URL 来源验证,保留了有用的部分响应,并防止空白或格式错误的响应被接受。 -
#163 — 功能:添加高级本地推理策略 (FEATURE: Add advanced local reasoning strategies - Pull Request #163 - merefield/discourse-chatbot - GitHub)
为 Chat Completions 添加了简单、验证与修订、择优二选一以及不确定性引导推理策略,并包含
有界辅助请求和工作人员可见的审计记录。 -
#164 — 功能:添加当前 OpenAI 模型 (FEATURE: Add current OpenAI models - Pull Request #164 - merefield/discourse-chatbot - GitHub)
使用较新的 GPT-5.x 和 Pro 变体更新了模型选择器,将适当的模型路由至 Responses
API,并添加了最大推理努力选项。 -
#165 — 修复:改进计算器重试指导 (FIX: Improve calculator retry guidance - Pull Request #165 - merefield/discourse-chatbot - GitHub)
为模型提供了更清晰的计算器语法和恢复指导,以便在出现可纠正的失败时进行适当的重试。 -
#166 — 功能:添加语义屏蔽问题网关 (FEATURE: Add semantic blocked-question gate - Pull Request #166 - merefield/discourse-chatbot - GitHub)
添加了一个可选的基于嵌入的网关,它可以识别管理员定义的屏蔽主题,并在调用主模型之前返回预设回复。它包括缓存、工作人员审计、故障时开放行为以及自定义嵌入模型支持。 -
#167 — 开发:替换 SafeRuby 并采用 Zeitwerk 加载 (DEV: Replace SafeRuby and adopt Zeitwerk loading - Pull Request #167 - merefield/discourse-chatbot - GitHub)
用 Dentaku 替换了内嵌的 SafeRuby 求值器,使命名空间和文件名符合 Zeitwerk 规范,并
现代化了插件的加载和 lint 配置。事实证明 SafeRuby 存在漏洞,因此进行了迁移。 -
#168 — 开发:从 Chatbot 中提取位置功能 (DEV: Extract Locations functions from Chatbot - Pull Request #168 - merefield/discourse-chatbot - GitHub)
从主插件中移除了特定于位置的工具和设置,允许它们由 discourse-locations 独立提供。 -
#169 — 功能:用信任等级工具选择替换机器人模式
(FEATURE: Replace bot modes with trust-level tool selection - Pull Request #169 - merefield/discourse-chatbot - GitHub)
这是主要的架构合理化工作:- 用 DiscourseChatbot::Bot 替换了独立的基础版和 RAG 机器人。
- 为每个信任等级添加了内置工具选择器。
- 使空选择器等效于一个简单的、无工具的机器人。
- 将视觉和绘画功能纳入工具选择系统。
- 将外部提供的插件工具保留在内置选择器之外。
- 将 Function 术语、设置和类重命名为 Tool。
- 重新排序、集中并条件性地隐藏了设置。
- 添加了对现有配置的迁移处理。
- 使配额扣减具备并发安全性。
- 修正了响应字符限制、日志记录选择以及二进制 PDF 读取。
-
#170 — 修复:改进计算器工具恢复 (FIX: Improve calculator tool recovery - Pull Request #170 - merefield/discourse-chatbot - GitHub)
将常见的表达式如 Math::PI、Math.PI、Math::E、Math.E 和 π 标准化为 Dentaku 兼容语法。
现在会拒绝重复的不变无效调用,并提供可操作的指导。 -
#171 — 开发:更新 chatbot 文档 (DEV: Refresh chatbot documentation - Pull Request #171 - merefield/discourse-chatbot - GitHub)
更新了 README,涵盖统一的机器人和工具架构、推理策略、屏蔽问题、计算器行为、限制、配额、自定义端点、图像/PDF 支持以及当前设置。视觉支持不再被描述为实验性功能。
配套插件
-
discourse-locations #4 — 修复:更新 Chatbot 位置扩展以适配工具 API (https://github.com/merefield/discourse-locations-early-access/pull/4)
将提取的位置集成迁移至 DiscourseChatbot::Tool,将其置于 Locations::Chatbot::Tools 下,
并针对统一机器人进行了更新。 -
Function 扩展示例 #1 — 修复:更新示例扩展以适配 Chatbot 工具 API (FIX: Update example extension for Chatbot tool API - Pull Request #1 - merefield/discourse-chatbot-function-extension-example - GitHub)
更新了示例插件,以演示 DiscourseChatbot::Tool、Zeitwerk 加载、面向工具的设置和
翻译,以及在不使用遗留兼容代码的情况下进行聚焦的行为测试。



