继续关于 每月限制主题帖子/用户数 的讨论:
你好
感谢您的关注 ![]()
更多背景:2021年,我在哈萨克斯坦的第一个论坛项目不成功,因为大多数居民更喜欢使用 Telegram 或 WhatsApp。引入 Discourse AI 机器人和 Chatbot 的插件为我的网站带来了第二次机会,但现在它只专注于与人工智能的交流(分类查询模板、机器人角色等)。
- 关于令牌支出控制:希望有一个单独的统计/设置面板,用于跟踪和管理令牌支出,具体取决于正在交互的机器人角色(GPT3、3.5、4、4.5t 和/或 Composer Assistant)。作为管理员,在试用期间的一个月内,我已经为 ChatGPT 查询花费了超过 70 美元的令牌,这对我来说是一笔不小的开销。现在,当我想要为普通用户提供机器人访问权限时,我开始担心我的预算,这很难控制。
让我们设想一种情况:我授予某个用户组访问 AI 的权限,并说“使用它”。假设一个用户一天生成的查询足以耗尽我的预算。现在,假设另一个用户尝试向 AI 发出查询,却……没有收到任何响应(什么都没有)。第二个用户可能不明白为什么机器人没有回复,认为服务出现故障,并转向其他服务。
为此,在用户选项卡中有一个单独的面板将是合适的,每个用户(管理员/版主/普通用户)都可以跟踪和控制令牌支出、机器人温度、top(尽管这可以放在帖子编辑器中,请参见下图)和其他微调设置。
例如,我想为自己设置一个阈值金额,当达到该金额时,会收到通知来补充预算/令牌。由于不同的 AI 模型在消耗令牌的成本上可能有所不同,因此我希望能够为每个机器人限制我以及其他用户组的令牌。每个用户都应该能够根据自己的意愿独立管理分配的令牌限制,就像管理员可以做的那样。为某些用户组(版主、TL4)提供精细调整生成设置(温度、TOP
等)的能力也将是有益的。
例如,与其为所有用户定义 embeddings semantic related topics 的最大值,不如根据用户组提供这些限制。因此,Staff 组可能被给予最多 7 个,普通用户 3 个,依此类推。每个用户都应该能够在其帐户的用户面板中设置这些值。这种方法将使 AI 的使用以及分配给每个用户的令牌限制的控制民主化。
例如,ai helper automatic chat thread title 也可以根据用户组来确定,让每个用户可以选择在用户面板中启用/禁用此功能。ai helper model 也可以根据用户组留给用户选择。如果我给 A 组提供 GPT4t 和 GPT3.5t 之间的选择,他们每个人都可以独立做出选择。
还可以为特权组添加能力,使其查询得到优先处理,并发送到 LLM 的队列前面。
我试图更详细地说明这一点(我很快制作了插图,请不要苛责):
注意:在上图中,我试图反映为普通用户提出的可能功能。这些功能可能是锁定的,为了让用户清楚,应该有激活功能/增加限制/添加机器人的按钮。这些按钮以蓝色突出显示,点击任何一个按钮都会将用户重定向到一个页面,其中包含加入特权组以获得更多 AI 交互功能的邀请。
2) 在编辑器中,我建议:
-
按类型对机器人进行分类(处理图像、文本、音频等)以及 Composer 界面中的附加查询设置(参见上面的第 1 点)。
-
添加根据机器人角色(作为减少服务器负载的杠杆之一)或用户组限制查询字符数的能力。我在这里讨论过一些相关内容 here。
-
使用现有的 Discourse Templates 插件或可能正在开发中的未来修改(用于个人消息)插入查询模板:Experimental Form Templates。
-
在文本输入区域插入提示模板(类似于类别设置中的类别主题模板)。
这是一个示例插图:
注意:在图像中所示的位置,在编辑器底部反映字符输入限制将是明智的。
AI Persona Editor for Discourse 中的附加选项(除了 API 设置),这些选项将在消息编辑器中显示:
附注。 这些天我有点不舒服(我生病了),我的一些建议可能有点零散,不太清楚。我是 Discourse 的新手,缺乏编程知识,并且发现很难理解这个英语论坛上的信息,因为帖子经常包含特定术语。因此,我承认我的想法(提案)有时可能有些荒谬,与 Discourse 的某些技术限制不符。我也明白团队可能有自己的插件项目路线图,这不一定与我的观点一致。但是,我决定发帖是因为我相信 AI revolution 将吸引许多用户来到此类服务,而 Discourse 已经拥有与市场上大多数新兴项目相比的与 AI 交互的所有技术能力(Open AI 使用 Discourse 作为其论坛就说明了问题)。所以,说出来总比不说好。在这方面,请将我的提案视为局外人的视角,一个普通用户(通常习惯于社交网络和信使)的建议,他们希望获得社交网络和信使通常缺乏的清晰度和交互功能。
编辑。我明白实现这样的功能可能需要大量的人力和财力成本(并非每个赞助商都能承担)。将此类提案付诸投票和/或组织众筹可能是值得的。


