Discourse チャットボット 🤖

Chatbot 1.3 リリース :tada:

  • FEATURE: トークンによるクォータ管理オプションを追加
    • 新しい設定 chatbot_quota_basis でオプトインできます。オプトインしない場合は、クエリ数による管理が維持されます。
    • デフォルトでは、クォータは開始時の最大クォータ(信頼レベルの設定に基づいています)からカウントダウンされるという点が唯一の違いです。
  • FEATURE: DALL-EのようなAPI呼び出しのコストをユーザー消費に含める
    • トークンベースのみ
    • API機能のトークンコストに影響を与えるためのさまざまな新しい設定
  • FEATURE: ユーザーが残りのクォータを確認できる機能を追加

Chatbot には、使用クォータを強制する機能が常に含まれていました。

本日、これがより洗練されました!

Chatbot は、トークンによる使用量を追跡し、強制できるようになりました。

API の呼び出しにコストを設定して、使いすぎを防ぐことができます。これにより、たとえば画像生成へのアクセスを許可することについて、あまり心配する必要がなくなります。

トークン追跡はオプトインです。トークン追跡に変更する場合は、各信頼レベルのクォータを増やすことを確認してください。値は数桁大きくなる必要があります。実験してください。

ただし、クエリによる追跡がわずかに変更されました。最大許容クエリ数にリセットされ、ゼロまでカウントダウンされるようになります。

グローバルクォータリセットジョブを一度だけ実行することを検討してください。これにより、全員が満クォータから開始されるようになります。これは一度限りです!

Sidekiq の /sidekiq/scheduler で:

トリガーボタンを押してください。

いずれの場合も、ユーザーは残りのクォータを尋ねることができるようになりました。

注:既知の問題:この質問がリセットジョブが実行される前に初めて尋ねられた場合、回答が少し奇妙になる可能性があります!リセットジョブの実行に関係なく、2回目にこの質問をすると正常に機能するはずです。

「いいね!」 4