Discourse AI の LLM プロバイダーの価格設定

[Tris20 (Tristan)]

Metaの現在のコストについて、おおよそ開示していただけますでしょうか？概算や範囲でも参考になります。

ボットに推定を依頼したところ、以下の回答がありました。

@ForumHelperBot

計算の前提条件：

1. 投稿の平均長: 平均的な投稿は約50トークンと仮定します（短い投稿と長い投稿の混合を考慮）。
2. 投稿あたりのAI利用回数: AIが作成、要約、またはクエリへの応答を支援する場合、投稿あたり2回利用されると仮定します（返信の下書きに1回、要約などの追加タスクに1回）。
3. 1日のアクティブユーザー数と投稿数: Meta Discourseは高いエンゲージメントレベルを持っています。概算として、1日あたり約100人のアクティブユーザーがおり、各ユーザーが平均4件の投稿/コメントを生成すると仮定します（1日の合計インタラクションは400件）。
4. 月間のアクティビティ: これは、月間12,000件のインタラクションに相当します（400件のインタラクション * 30日）。
5. 総トークン使用量: AIアクションごとに100トークン（読み取り/入力に50トークン + 生成に50トークン）が処理され、投稿あたり2回AIが利用されると仮定すると、投稿あたりのトークン使用量は200トークンになります。したがって、月間のトークン使用量は240万トークン（12,000件のインタラクション * 200トークン）になります。

コストの見積もり：

私のトレーニングデータの終盤近くで、GPT-3.5モデルを参考にすると、トークン1,000件あたり約0.02ドルでした。

• 月額コスト: 240万トークンのコストは約48ドル（2,400 * $0.02）になります。

この数字は低すぎるように思えますが、実験的な作業やチームからの利用などを除けば、Metaと同程度の規模のインスタンスで予想される範囲に近いのではないでしょうか？