kuaza
(kuaza)
1
正如您所知，当我们对模型设置限制时，用户即使在用完限制后仍然可以向其提问，但只会收到一条消息，告知他们限制已达到。这令人沮丧且浪费时间。
我的建议是：模型可以继续列出，但如果用户的限制已达到，该特定模型可以以褪色的颜色显示。当用户选择它时，一个模态窗口可以自动提示他们升级订阅。这基本上就是使用模型应该运行的方式。达到限制的用户可以在提问时或之前提高限制，然后他们的问题就可以被处理。这将是快速而方便的。
此外，如果我们还能实现这一点，我认为会更好：用户的剩余限制应显示在模型名称旁边。（哇，这将非常有帮助！）
您对此有何看法？
4 个赞
sam
(Sam Saffron)
2
我的总体想法是，我们希望逐步取消对大多数用户的这个决策矩阵——在理想情况下，他们应该能够直接与机器人对话，底层的引擎应该能够确定为请求提供服务的最佳大型语言模型（llm）。
这确实会增加一些开销，但也消除了非高级用户的一些决策瘫痪。
在这种情况下，“升级订阅”是什么意思？是升级到 Discourse 实例的订阅以获得更高的限制，还是提醒管理员重新配置 llm？
这里面包含相当多的假设。
3 个赞
