ユーザーが1日に使用できるAIトークン数を制限しますか？

特徴
,
1

特定のメンバーにAIへのアクセス権を与えた場合、彼らが仕事などで常にそれを使用するのを阻止するものは何でしょうか？1日または1週間あたりのトークン使用量を制限する方法はありますか？

2

Discourse AI を使用している場合、そのような制限はないため、答えはまったく何もありません。

もう 1 つのソリューションである Chatbot には、リクエストできる回数に週ごとの制限があります。

したがって、どちらがより適しているかを選択する必要があります。私は両方を使用しています。フォーラム内でのより一般的な使用には Chatbot を使用し[1]、DAI はグループと（調整された）目的をペルソナを使用して制限しています。そのため、これら 2 つは部分的にしか重複しないため、両方の長所をある程度活用しています。

  1. 一般的な使用とは、質問の種類を意味します。それ以外の場合は、より専門的な方法で調整されています。 ↩︎

「いいね！」 4
3

これをフィーチャーに移動します。クォータシステムを追加する予定です。これは繰り返し表示されます。

各LLMにグループセレクターと、各LLMの入力/出力カウントと期間を追加することを考えています。これにより、オプションのクォータを追加できます。

「いいね！」 7
4

ユーザーごとの（グループごとではない）レート制限が必要になったため、一時的なソリューションを自分で実装しようとしています。トークンではなくプロンプトの数を制限しても問題ありません。post_event でウェブフックを使用して、それがプライベートメッセージであり、ユーザーがボットに投稿している場合に、ユーザーのカスタムフィールド ai_query_count をインクリメントすることを考えています。その部分は機能すると思います。

その後、カウントが高すぎた場合はどうすればよいでしょうか？管理 > カスタマイズ > ヘッドにある JavaScript を試しましたが、ユーザーのカウントを読み取り、カウントが高すぎる場合に返信ボタンを無効にしようとしましたが、ボタンを取得するためのセレクター用語を見つけることができませんでした。

または、より良いアプローチがあるかもしれません。何かアイデアはありますか？

5

技術的には同じです。1人のグループを作成するだけです。

これは今週中に実装され、これを解決するはずです。

「いいね！」 4
6

予算管理にはグループごとのクォータが良いことは理解していますが、期間の初めに1人のユーザーがグループ全体のクォータを使い切ってしまうのを防ぐにはどうすればよいでしょうか？ 編集：そして、OPが尋ねたように、自分の無関係な仕事のためにそれを使い果たす可能性はどうでしょうか？

メンバーは3000人います。では、3000個のグループを作成するのですか？それは/gを台無しにしませんか？

「いいね！」 2
7

この質問について少し混乱しています。クォータは現在グループごとに定義され、ユーザーごとに適用されます。

グループで1000トークンが許可されている場合、単一のユーザーが1000トークンを超えることは許可されないことを意味します。

クォータはユーザー間で共有されません。後で必要になった場合に絶対クォータの概念を追加することに反対しません。

「いいね！」 4
8

ああ。では、完全に誤解していました。機能には次のように書かれています。

「グループごとのトークンと使用制限を設定し、期間を設定可能」

私には「グループごとの制限」は、グループ全体に制限があるように聞こえました。

ですから、これはまさに私が探していたものです。新機能をお待ちしています。

「いいね！」 2
10

来週の水曜日に、セルフホストの Discourse サイトでこの構成をインターンに割り当てる予定です。GitHub の main ブランチからプルするように指示する必要がありますか？それとも、app.yml にこの行を追加するだけで十分でしょうか？

hooks:
  after_code:
    - exec:
        cd: $home/plugins
        cmd:
          - git clone https://github.com/discourse/docker_manager.git
          ...
          ...
          - git clone https://github.com/discourse/discourse-ai.git

Discourse AI プラグインの機能を登録ユーザーのみに許可したいと考えています。これはデフォルトの動作ですか？

AI で強化された検索には、グループごとの制御がないように見えますか？

AI インターフェイスのさまざまな設定とオプションを描いた画像。AI 埋め込み、モデルの種類、セマンティック検索機能、および関連トピックに関連しています。(AI によるキャプション)
AI インターフェイスのさまざまな設定とオプションを描いた画像。AI 埋め込み、モデルの種類、セマンティック検索機能、および関連トピックに関連しています。(AI によるキャプション)559×560 27.1 KB

AI ボットについては、信頼度を 0 に設定し、グループごとのトークン制限を設定して、信頼度の上昇とともに増加させることを考えています。これは良い戦略でしょうか？

image
image309×143 4.58 KB

11

マージされました。あとはドキュメントを作成するだけです。

「いいね！」 3
12

@sam ご協力ありがとうございます。インターンが本日、各信頼レベルのクォータを設定しました。

まだ十分にテストされていません。

グループ制限に達した場合、ユーザーにメッセージは表示されますか？このメッセージはカスタマイズ可能ですか？

AIを便利に活用したいですが、悪用から保護したいと考えています。AI検索をさらに利用したい人がいれば、人間 ​​に連絡して制限を増やすことができる旨を伝えるメモを送りたいです。その後、スタッフは手動でユーザーを事前設定されたグループに移動できます。

例では、amazon nova pro v1を使用していることに気づきました。インターンは、おそらくブランド認知度のため、OpenAI gpt-o4で実装をセットアップしました。

インターンはまだ、さまざまなモデルの効果とコストを比較検討中です。フォーラムの皆さんからのアドバイスがあれば幸いです。

「いいね！」 1
13

はい、これは現在発生します

ごくわずかですが、翻訳された文字列を使用しているため、翻訳を修正できます。

完了したのでこれを閉じます。AIに関する新しい質問があれば、お気軽にお寄せください！

「いいね！」 1