CDCKホスト型LLMをご利用中で、AIクレジットを使い果たした場合でも、AI機能をスムーズに稼働させ続けるためのいくつかの選択肢がありますのでご安心ください。
発生理由
各Discourseサイトには、ホスティングプランに基づいて割り当てられた日々のクレジット残高を持つ、CDCKホスト型LLMモデルがプリコンフィギュレーションされています。これらのクレジットが消費されると、ホスト型LLMに依存するAI機能は、翌日クレジットがリセットされるまで一時停止します。
オプション
プランをアップグレードしてクレジットを増やす
アップグレードすると、クレジットプールがすぐに増加します。このオプションは、ホスト型LLMに依存しており、プランに含まれる予測可能な使用量を希望する場合に最適です。
より大きな上限でCDCKホスト型LLMを引き続き使用したい場合は、管理 → ダッシュボード → プランのアップグレードに移動して、より大きなAIクレジット割り当てを持つ上位ティアにアップグレードしてください。
サードパーティLLMプロバイダーに接続する
独自のLLMを使用すると、それらの機能でCDCKクレジットが消費されなくなります。
ホストされたクレジット制限を完全に回避したい場合は、独自のAPIキーを持ち込むことができます。
- 管理 → プラグイン → Discourse AI → LLMに移動します
- 事前設定されたLLMテンプレートを使用するか、手動設定オプションを使用して**
設定**をクリックします - プロバイダーの詳細、APIキーを入力し、希望のモデルをテストします
- このモデルをデフォルトLLMとして割り当てるか、パワーを供給したい特定の機能に設定します
Discourse AIでサードパーティLLMを設定する方法の詳細については、Discourse AI - 大規模言語モデル (LLM) 設定ページを参照してください。
ユーザーごとのクォータを設定して使用量を削減する
管理者は、各ユーザーがAI機能で消費できるトークン数を制限できます。このオプションは、現在のティアにとどまりたいが、使用量をより厳密に制御したい場合に最適です。
設定場所:
- 管理 → プラグイン → AI → LLM
- CDCKホスト型LLMの**編集**を選択します
- ユーザーごとまたはグループごとのトークン制限を追加するには、**クォータを追加**ボタンを押します
機能:
- ユーザーごとのAIツールの月間最大使用量に厳密な制限を設ける
- ヘビーユーザーがクレジットプール全体を消費するのを防ぐのに役立つ
- プランをアップグレードせずに既存のクレジットを長持ちさせる