哎呀，这确实相当高级。
我想如果自定义工具足够丰富，它们也能做到这一点……感觉有点像鲁布·戈德堡机械，但可以想象一下。
- 如果配置包含一个角色：
- 强制调用工具
- 强制使用自定义工具，并且该工具没有参数
- 然后，我们不调用 LLM，而是直接将控制权交给工具
- 然后，我们为工具提供足够的基础设施，通过某种方式的控制反转将结果流式传输回应用程序
这是一个惊人的巨大变化，并且维护起来将非常困难。
我想另一种选择是定义一个新的自定义插件，它依赖于 Discourse-AI 并定义你自己的方言和端点——这无疑是最简单的方法。