我们需要快速链:允许自定义AI角色工具访问LangChain.js和/或更长的执行时间

虽然将 AI 机器人连接到外部 API 已经非常棒了,但我认为管理员/开发人员能够在自定义工具编辑器中构建 使用 LCEL 的提示链 :link: 将会非常有用,以便实现更复杂的工作流程和增强的智能响应。或者,自定义工具编辑器可以有一个“链构建器”功能,它本质上是将 LangChain 封装到管理员的 GUI 中 :toolbox:

另外,允许执行时间超过两秒将非常有帮助,这样提示链就可以托管在不同的服务器上,并暴露给 Discourse 服务器。2 秒足以向链发送一些数据,让它通过链进行“思考”,然后得到答案 :brain:。但这更复杂且小众,对非工程师来说不太友好。第一个提议更有意义。

当然,这两种选择都存在潜在风险,所以理想情况下应该有一个开关来启用,并附带警告/通知 :warning:

但为什么要这样做呢? 嗯,很高兴你问了 :smiley::robot:

仅靠单个系统提示很难实现复杂的 AI 行为/代理,而这正是 LangChain 被开发出来的原因。我是一名 AI 研究员 :nerd_face:,我们正在构建一个(目前)简单的基于 LLM 的代理认知架构,它最终将与用户交互 :mechanical_arm:。Discourse 将是我们释放这个野兽的最理想的媒介,特别是它可以与自动化插件结合——这里的可能性是无限的,我喜欢它 :heart_eyes:

我相信许多其他公司也将受益于能够将代理应用于他们的论坛。LLM 非常令人印象深刻,然而我们也认识到符号(逻辑/基于规则)AI 的元素在更大的 AI 系统中仍然适用——例如旨在优化特定目标状态的认知架构。

:heart: 我很想听听关于这个想法的任何反馈、头脑风暴和批评!:heart:

我能读懂单词,仅此而已——因为我是一名缺乏基本知识和理解能力的最终用户。而且我也不完全确定你是在尝试推销一个 B2B 概念,还是在论坛环境中向用户推销一些有用的东西。或者两者兼有,这也是一种可能的情况。

当然,拥有各种各样的工具是件好事,而且没有理由每个人都必须使用所有工具。拥有足够多的选择是件好事。

你能举出实际的例子来说明所有这些能为论坛背后的企业和用户带来什么吗?

1 个赞

好主意 :smiley: 感谢您的回复

人们可以构思出无数个将大型语言模型(LLM)连接起来以实现某个目标的用例,但这里有一个简单、实际的例子……

假设有一个供研究人员使用的论坛,他们需要快速轻松地找到新的研究论文。人们可以只使用 AI 插件自定义工具构建器中已有的 http 库,然后创建一个工具,向论文数据库(例如 arXiv 或同行评审的学术期刊)发送请求。但这本质上只是一个“一次性”尝试。

一个更好的方法是将多个 LLM 调用链接起来,逐步解决问题:

  1. 与用户讨论他们的研究主题(多次循环以获取大量详细信息)
  2. 根据预定义的模板总结用户的需求
  3. 将该摘要转换为 API 请求,并从论文数据库接收潜在匹配项列表
  4. 分析每篇论文的摘要,以确保其确实相关
  5. 将该列表呈现给用户,并解释每篇论文与其研究主题相关的​​原因。

这并不是我正在做的事情(我不一定想公开我的商业模式和架构 :smiley: ),但这是一个简单且现实的例子,一些开发人员实际上正在解决这个问题。

本质上,我试图向用户(通过可爱的订阅插件)销售的是访问一个更复杂的 AI 机器人,而不仅仅是一个带有连接到某个服务并返回一些数据(股票价格等)的简单工具的系统提示。更复杂,因为它通过多个步骤解决问题/响应用户查询,每个步骤都利用具有不同系统提示的 LLM。这本质上是新的 OpenAI o1 模型所做的。 :blush:

1 个赞

如果你打算从中赚钱,也许你应该为这项功能做贡献?你考虑过吗?

我相信他们正在添加对o1的支持,所以为什么不坚持使用它呢?

Chatbot 可能已经支持o1了,我将在能够实际测试而无需在我的账户上花费更多钱以达到Tier 5时进行确认!:moneybag: :moneybag: :moneybag:

2 个赞

我确实考虑过,但作为一名人工智能研究员,我的编程经验/知识集中在 Python 和 NumPy、PyTorch 等库上 :nerd_face:。我对 Ruby 一无所知,对 JavaScript 也知之甚少。不过,既然我爱上了 Discourse,我决心慢慢开始学习这些以及 Discourse 插件开发。:sweat_smile: 所以如果你有什么学习资源的建议,我将不胜感激!

o1 很好用,而且我预测我会经常用它来编码,但是我在做的是一个认知架构,情况有点不同。我的想法更像是“我想基于计算认知科学的研究来构建一些东西,如果能卖出去就酷了”,而不是“我有一个想法,可以把它外包给 OpenAI 来赚大钱”。希望这说得通 :winking_face_with_tongue:

哦,对了,我们的认知架构会比 o1 便宜大约 20 倍 :grimacing:

1 个赞

是的,o1 现在贵得离谱!:grimacing:

边做边学,先复制现有的插件,然后选择容易实现的功能作为起点,这样可以更轻松地迭代。做一些你真正需要的东西,因为你需要动力来克服遇到的障碍。

1 个赞