Limit # topic posts / user / month の議論を続けます。
こんにちは
ご関心をお寄せいただきありがとうございます ![]()
より詳しい背景情報: 2021年、カザフスタンでの最初のフォーラムプロジェクトは、ほとんどの住民がTelegramやWhatsAppを利用することを好んだため、うまくいきませんでした。Discourse AI ボットとChatbot のプラグインの導入は、私のウェブサイトにセカンドチャンスを与えましたが、現在は人工知能とのコミュニケーションに特化しています(クエリテンプレートのカテゴリ分け、ボットのキャラクターなど)。
- トークン使用量の管理について: ボットのキャラクター(GPT3、3.5、4、4.5t、および/またはComposer Assistant)との対話に応じて、トークン使用量を追跡および管理するための、個別の統計/設定パネルがあると望ましいです。管理者として、1か月の試用期間中に、ChatGPTクエリで70ドル以上のトークンを消費してしまいました。これは私にとってかなりの出費です。現在、一般ユーザーにボットへのアクセスを提供したいと考えており、予算について心配し始めていますが、管理が困難です。
特定のユーザーグループにAIへのアクセスを許可し、「使用してください」と伝えた状況を想像してみましょう。あるユーザーが1日で私の予算を使い果たすほどのクエリを生成したとします。次に、別のユーザーがAIにクエリを送信しようとしますが…応答がありません(何も)。2番目のユーザーは、ボットが応答しなかった理由を理解できず、サービスが誤動作していると想定し、他のサービスに乗り換える可能性があります。
このため、ユーザータブに個別のパネルがあると適切です。そこでは、各ユーザー(管理者/モデレーター/一般ユーザー)がトークン使用量、ボットの温度、top(ただし、これは投稿エディタに配置することもできます。下の図を参照)、およびその他の微調整設定を追跡および管理できます。
例えば、自分自身に閾値金額を設定し、それに達したら予算/トークンを補充するための通知を受け取りたいです。異なるAIモデルでは消費トークンのコストが異なる可能性があるため、各ボットのトークンを自分自身および他のユーザーグループに対して制限する機能があると望ましいです。各ユーザーは、管理者ができることと同様に、割り当てられたトークン制限を自由に管理できる必要があります。また、一部のユーザーグループ(モデレーター、TL4)に、生成設定(温度、TOP
など)を微調整する機能を提供することも役立ちます。
例えば、すべてのユーザーの embeddings semantic related topics の最大値を定義する代わりに、ユーザーグループに応じてこれらの制限を提供することが実用的でしょう。したがって、Staffグループには最大7、一般ユーザーには3などを割り当てることができます。各ユーザーは、アカウントのユーザーパネルでこれらの値を設定できる必要があります。このアプローチは、AIの使用と、各ユーザーに割り当てられたトークン制限を制御する能力を民主化するでしょう。
例えば、ai helper automatic chat thread title もユーザーグループに基づいて決定でき、各ユーザーはユーザーパネルでこの機能を有効/無効にする選択肢を持つことができます。ai helper model もグループに基づいてユーザーの選択に委ねることができます。Group-AにGPT4tとGPT3.5tの選択肢を与えた場合、それぞれが独立して選択できます。
また、特権グループがクエリを優先し、LLMへのキューの先頭に送信する機能を追加することも可能です。
より詳細に説明しようとしました(急いで作成したイラストなので、あまり厳しく評価しないでください):
注:上記の画像では、一般ユーザー向けに提案された可能な機能を反映しようとしました。これらの機能はロックされている可能性があり、ユーザーに明確にするために、機能の有効化/制限の増加/ボットの追加のためのボタンがあると適切です。これらのボタンは青色でハイライトされており、いずれかのボタンをクリックすると、AIとの対話でより多くの機能を利用するための特権グループに参加するための招待状が表示されるページにリダイレクトされます。
2) エディタでは、以下を提案します:
-
ボットをタイプ別に分類する(画像、テキスト、音声などの操作)と、追加のクエリ設定(上記ポイント1を参照)をComposerインターフェース内に追加すること。
-
ボットのキャラクター(サーバー負荷を軽減するレバーの1つ)またはユーザーグループに基づいて、クエリの文字数制限を設定する機能を追加すること。これに関連する内容をこちらで議論しました。
-
既存のDiscourse Templatesプラグイン、または現在開発中の将来の変更(個人メッセージでの使用向け)Experimental Form Templatesを使用して、クエリテンプレートを挿入する機能。
-
テキスト入力エリアにヒントテンプレートを挿入する機能(カテゴリ設定のカテゴリテーマテンプレートと同様)。
以下に例を示します:
注:画像に示されているように、文字数制限をエディタの下部に反映することが望ましいでしょう。
AI Persona Editor for Discourse の追加オプション(API設定以外)、これはメッセージエディタに表示されます:
追伸。 最近、体調を崩しており(病気です)、提案の一部が少し散らかっていて、あまり明確でないかもしれません。私はDiscourseの初心者であり、プログラミングの知識がなく、投稿に専門用語が含まれることが多いこの英語フォーラムで情報を理解するのに苦労しています。したがって、私のアイデア(提案)は時々少しばかげていて、Discourseの技術的な制約と一致しない可能性があることを認めます。また、プラグインのプロジェクトロードマップが私の見解と必ずしも一致しない可能性があることも理解しています。しかし、AI革命は多くのユーザーをこのようなサービスに引き付けると信じているため、この投稿を書くことにしました。そして、Discourseはすでに市場に出ているほとんどのプロジェクトよりもAIとの対話におけるすべての技術的能力を備えています(Open AIがフォーラムにDiscourseを使用しているという事実は、多くのことを物語っています)。したがって、言わないよりは言った方が良いです。この点で、私の提案を外部からの視点、つまり、ソーシャルネットワークやメッセンジャーに慣れている一般ユーザーからの提案として考えてください。ソーシャルネットワークやメッセンジャーにはしばしば欠けている明確さと対話機能を求めています。
編集。このような機能の実装には、多くの労力と費用がかかる可能性があることを理解しています(すべてのスポンサーが対応できるわけではありません)。このような提案を投票にかけたり、クラウドファンディングを組織したりすることは価値があるかもしれません。


