Discourse AI の LLM プロバイダーの価格設定

ドキュメント サイト管理
,
1

:bookmark: Discourse AI は、1 つの LLM プロバイダーへのリンクが必要です。これは、さまざまなオプションの価格設定への参照です。

:person_raising_hand: 必要なユーザーレベル: 管理者

一部の Discourse AI 機能を使用するには、ユーザーはサードパーティの大規模言語モデル (LLM) プロバイダーを使用する必要があります。互換性のある LLM については、各 AI 機能を確認してください。

次のガイドでは、さまざまな LLM プロバイダーの価格設定について説明します。

:information_source: リクエストの数、テキストの長さ、使用される計算リソース、選択されるモデルなど、複数の要因によってコストが変動する可能性があることに注意してください。最新かつ正確な価格設定については、各プロバイダーに定期的に確認してください。

「いいね！」 5
4

これは統計的に取得された比較ではありませんが、OpenAI GPT-4 を使用した私の短いテストに基づくと、API コール数と使用されたトークン数を考慮すると GPT-3.5 Turbo の 3 倍の費用がかかります。また、GPT-4 によって使用されるトークンはより高価であるため、その差ははるかに大きくなります。

そして、GPT-4 は 3.5 Turbo と比較して何の利点もありませんでした。

免責事項として、私はフィンランド語を使用しましたので、英語では異なる可能性があります。さらに、フィンランド語を使用する場合、どの AI もチャットでの使用には全く役に立ちませんが、それは全く別の問題です。しかし、私の見解では、小規模言語を使用する場合、すべてのチャットボットは単なるお金の無駄です。

5

ここでの費用は概算であり、使用量によって費用が大幅に変動する可能性があることに同意します。

多くの基本的なタスクでは、GPT-4とGPT-3.5モデルの違いはそれほど大きくないことに注意することが重要です。しかし、GPT-4は、その機能、創造的な理解、および生の入力に関して、いくつかの実証された違いがあります。

また、人気のない言語については、モデルの能力に改善の余地があることにも同意します。

「いいね！」 1
6

同じことを話していると思いますが、念のため :smirking_face:：それはAI企業の問題であり、あなたや私、または他の開発者がその事実を変えることはできません。

しかし、私が求めているのは、皆が（自分のお財布からではなく、他の予算からお金を使っているのでなければ :smirking_face:）どれだけお金を使っているかを少しだけ追跡し、非常に主観的な有用性と金額のバランスを見つけようとすることです。

そしていいえ、私は自分が何を話しているのか分かりません。主に、すべてのチャットボットの応答は、基本的に英語のバズ（量より質）に基づいているからです。より良いツールがあれば、AIにどのソースを使用できるかを教育する状況は変化する可能性があります - 良くも悪くも、それは状況次第です。もちろん、それは可能ですが、トークンの価格よりもはるかに多くの費用がかかります。

そしてはい、それは小規模プレイヤーの頭痛の種です。

疑問に思っています…より自由なプロンプト編集で、より良いコスト/精度バランスを得る可能性はありますか？

7

Metaの現在のコストについて、おおよそ開示していただけますでしょうか？概算や範囲でも参考になります。

ボットに推定を依頼したところ、以下の回答がありました。

この数字は低すぎるように思えますが、実験的な作業やチームからの利用などを除けば、Metaと同程度の規模のインスタンスで予想される範囲に近いのではないでしょうか？

「いいね！」 2
14

またくだらない質問ですが、数学自体は有効ですか？LLMは数えられないので、ただ聞いているだけです。

私のフォーラムは（OpenAI経由で）AI機能をはるかに少なく使用しており、料金はその分高くなっています。

「いいね！」 1
15

ボットが言及したトークン価格は正確ではありません。現在の価格では、gpt-3.5-turbo-0125 は入力トークン100万件あたり0.50ドル、出力トークン100万件あたり1.50ドルです。入力と出力が半々であると仮定すると、240万トークンはわずか2.40ドルになるはずです。gpt-4 は入力30ドル/m、出力60ドル/m で、240万トークンでは108ドルになります。

「いいね！」 2
16

Claude Haiku は GPT-4 のパフォーマンスに非常に近く、GPT-3.5 の半額です。

Claude 3 Haiku ではなく 3.5 を使用する非常に説得力のある理由が必要だと思います。

@Saif Claude の最新の価格設定で OP を更新していただけますか。OP は時代遅れです。

価格は頻繁に変わるため、実際の価格を掲載する価値があるかどうかはわかりません。

「いいね！」 2
18

OPをリンクのみにするよう更新しました。価格は常に変動するため、最新の情報を得るのが最善であることに同意します。

「いいね！」 1
21

プロバイダーとLLMのセットがますます増えているため、ユーザーはプロバイダーに直接確認するのが最善です。そのため、このトピックを削除します。

「いいね！」 1