優先度/深刻度:
中
プラットフォーム:
Discourse b66fca70d0e3d12ef930398289fac5269cd240c7
説明:
公式の"Automation"プラグインには、「AIを使用して投稿を分類する」というスクリプトがあります。このスクリプトは、投稿の内容をLLMに提供し、その結果に応じて設定可能な分類アクションを実行します。
Discourseホスティングプランで提供されるクレジット割り当て内(CDCKがホストするLLMを使用する場合)または、サードパーティのLLMプロバイダーを使用する場合の予算内にLLMの使用量を収めるためには、各クエリに必要なトークン数を管理することが重要です。「AIを使用して投稿を分類する」スクリプトには、「最大投稿トークン数」という設定があり、リクエストに含まれる投稿内容の量を制限することができます。
投稿に画像が添付されている場合、大量の画像データは「最大投稿トークン数」設定で自動化のために設定された投稿トークン制限を超えてしまう場合でも、常にリクエストに含まれます。
これは、自動化で使用されているAIペルソナの設定で「ビジョン有効」オプションが無効になっている場合でも発生します。
その結果、トークン消費が制御不能になります。
多くのユースケースでは、投稿のテキストデータのみが対象であり、その場合、トークン使用量を増大させる画像データは価値がありません。
再現手順:
- 適切なカスタムAIペルソナがまだない場合は、作成してください。
- ペルソナの設定で「ビジョン有効」オプションを無効にしてください。
- 組み込みの「Automation」プラグインが有効になっていない場合は、有効にしてください。
- プラグインの「Automations」ページ(
/admin/plugins/automation/automation)に移動してください。 - 「+ Add automation」ボタンをクリックしてください。
「Select a script」ページが開きます。 - 「AIを使用して投稿を分類する」スクリプトを選択してください。
自動化設定ページが開きます。 - 単純なテストに必要なように自動化を設定してください。自動化の結果としてアクションが実行される必要はなく、LLMクエリが生成されることのみが必要です。
- 自動化設定のスクリプトオプション > ペルソナメニューから、ステップ1で作成したAIペルソナを選択してください。
- 自動化設定のスクリプトオプション > 最大投稿トークン数設定を
20に設定してください。 - 自動化設定ページの下部にある「Update automation」ボタンをクリックしてください。
「Automations」ページに戻ります。 - 新しく作成した自動化の「Enable automation」スイッチを「オン」に設定してください。
- 自動化をトリガーする投稿またはDMを作成してください。投稿に画像を追加してください。
- 投稿またはメッセージを投稿してください。
- 「Data Explorer」プラグインの管理ページ(
/admin/plugins/explorer)に移動してください。 - ページ上の「+」ボタンをクリックしてください。
「Query name…」フィールドが表示されます。 - 「Query name…」フィールドに
Get AI Audit Logsと入力してください。 - 「+ Create New」ボタンをクリックしてください。
新しいData Explorerクエリが作成されます。 - 「Edit」ボタンをクリックしてください。
クエリコード編集フィールドが開きます。 - プレースホルダーのクエリコードの内容を次のコードに置き換えてください:
SELECT request_tokens, raw_request_payload FROM ai_api_audit_logs WHERE feature_name = 'llm_triage' - 「実行」ボタンをクリックします。
自動化があなたの投稿によってトリガーされた後に生成されたリクエストのデータエクスプローラークエリ結果に表示される request_tokensフィールドの値は、AIペルソナ設定からの「システムプロンプト」と、自動化設定によって課せられた投稿テキストのコンテキスト制限の最大20トークンを考慮した場合に予想される使用数を大幅に超えています。 - データエクスプローラーのクエリ結果にある
raw_request_payloadフィールドの値の右側にある ●●● ボタンをクリックします。
フィールドの完全な値を表示するダイアログが開きます。
投稿に添付された画像のデータは、リクエストデータ内の messages[*].image_url キーを介して含まれていました。
例:
{
"model": "Qwen/Qwen3-VL-30B-A3B-Instruct",
"max_tokens": 16384,
"messages": [
{
"role": "system",
"content": "You will be given a piece of text, and your task is to detect the locale of the text"