Discourse AI的LLM提供商定价

[Tris20 (Tristan)]

您是否愿意大致透露 Meta 目前的成本？即使是大概的数字或范围也会有帮助。

我让机器人给出了估算，它提供了以下信息：

@ForumHelperBot

计算假设：

1. 平均帖子长度：假设平均帖子长度约为 50 个 token（考虑到较短和较长的帖子混合）。
2. 每个帖子的 AI 操作次数：如果 AI 协助撰写、总结或回答查询，我们假设每个帖子会进行两次 AI 操作（一次用于起草回复，可能还有一次用于总结等附加任务）。
3. 每日活跃用户和帖子：Meta Discourse 的参与度很高。为了进行近似估算，我们假设每天有大约 100 个活跃用户，每人平均产生 4 个帖子/评论（总计 400 次每日互动）。
4. 月度活动：这相当于每月 12,000 次互动（400 次互动 * 30 天）。
5. 总 Token 使用量：假设每次 AI 操作涉及处理 100 个 token（50 个 token 用于读取/输入 + 50 个 token 用于生成输出），并且每个帖子使用两次 AI，那么每个帖子是 200 个 token。因此，月度 Token 使用量将是 240 万个 token（12,000 次互动 * 200 个 token）。

成本估算：

以 GPT-3.5 模型为参考，根据我的训练数据截止日期附近的价格，大约为每 1,000 个 token 0.02 美元：

• 月度成本：240 万个 token 的成本大约为 48 美元（2,400 * 0.02 美元）。

我觉得这个数字太低了，但如果排除实验性工作和团队使用等因素，也许与大多数类似规模的 Meta 实例的预期成本相差不远？