当社のCDCKホストLLMをご利用中でAIクレジットを使い果たした場合でも、ご安心ください。AI機能をスムーズに稼働させ続けるためのいくつかのオプションがまだあります。
なぜこれが起こるのか
各Discourseサイトには、当社のCDCKホストLLMモデルがプリインストールされており、ホスティングプランに基づいて日々のクレジット残高が割り当てられています。これらのクレジットが消費されると、ホストLLMに依存するAI機能は翌日クレジットがリセットされるまで一時停止します。
オプション
プランをアップグレードしてクレジットを増やす
アップグレードすると、クレジットプールが直ちに増加します。このオプションは、ホストLLMに依存しており、プランに含まれる予測可能な使用量を希望する場合に最適です。
CDCKホストLLMを引き続きより高い制限で使用したい場合は、管理 → ダッシュボード → プランのアップグレードに移動して、より大きなAIクレジット割り当てのある上位プランにアップグレードしてください。
サードパーティLLMプロバイダーに接続する
独自のLLMを使用すると、それらの機能でCDCKクレジットが消費されなくなります。
ホストされたクレジット制限を完全に回避したい場合は、独自のAPIキーを導入できます。
- 管理 → プラグイン → Discourse AI → LLM に移動します
- プリセットされたLLMテンプレートを使用するか、手動設定オプションを使用して、
設定をクリックします - プロバイダーの詳細、APIキーを入力し、希望のモデルをテストします
- このモデルをデフォルトLLMとして割り当てるか、または有効にしたい特定の機能に設定します
Discourse AIでのサードパーティLLMの設定に関する詳細については、Discourse AI - 大規模言語モデル (LLM) 設定ページを参照してください。
グループごとのクォータを設定して使用量を削減する
管理者は、各グループのユーザーがAI機能を何トークンまたは何回使用できるかを制限できます。このオプションは、現在のティアにとどまりたいが、使用量をより厳密に制御したい場合に最適です。
設定場所:
- 管理 → プラグイン → Discourse AI → LLM
- CDCKホストLLMで編集を選択
- グループごとのトークンまたは使用制限を追加するには、クォータを追加ボタンを押します
これにより何が起こるか:
- 設定可能な時間期間(1時間、6時間、24時間、7日間、またはカスタム期間)内に、グループの各ユーザーが行えるトークン数またはリクエスト数に厳密な制限が課せられます
- ヘビーユーザーがクレジットプール全体を消費するのを防ぎます
- プランをアップグレードせずに既存のクレジットを伸ばすことができます