こんにちは皆さん!
Discourse AIプラグインにいくつか便利な機能の提案をしたいと思います。
-
ユーザーごとのトークン使用量の追跡
これにより、管理者は各ユーザーがAIとの対話で消費しているトークン数を監視できます。不正利用の防止や、ユーザーごとまたはグループごとのトークン制限の設定に役立ちます。ユーザーごとの詳細なトークン使用量の内訳を見ることで、使用パターンとコストについての理解が深まります。
私たちはコミュニティでAIとのチャットにロシア語を使用していますが、OpenAIのトークナイザーはロシア語ではうまく機能しません。1トークンが1文字になることがあり、私たちにとっては非常に高価です! -
ユーザーがカスタムAIペルソナを作成できるようにする
ユーザーが独自のAIアシスタントのペルソナ(カスタムプロンプトの作成)を定義できるようにすることで、より魅力的でパーソナライズされた対話が可能になります。ユーザーにこの柔軟性を提供することで、フォーラムでのAIのより創造的な利用が促進されるでしょう。 -
コンテキストとして含める投稿の最大数のデフォルト設定
すべてのペルソナに対して、コンテキストを一定数の最近の投稿に制限するデフォルトオプションを追加することで、AIが適切に応答するための十分なコンテキストを提供しながら、トークン使用量を管理しやすくすることができます。 -
カスタムデータソースからのテキストを使用する機能
PDF、ウェブページ、Google Driveファイルなどのソース用のドキュメントローダーを統合することで、ユーザーが情報と対話することが容易になり、実装もそれほど難しくないようです。AIが、トピックに関与する際に、PDFとしてアップロードされたホワイトペーパーの情報や、特定のウェブページからの事実を参照できることを想像してみてください。これは、さまざまな形式の記事を扱うことが多い私のコミュニティのような学術コミュニティにとって特に役立ちます。これにより、専門的な議論におけるAIの能力を強化できます。LangChainのようなドキュメントローディングツールがこれに活用できる可能性があります。Document Loaders —
LangChain 0.0.146 -
すべてのAIモデルでカスタムAPIベースURLをサポート
現在、カスタムAPI URLはOpenAIのみでサポートされています。この機能をサポートされているすべてのAIプロバイダーに拡張することは、リバースプロキシやその他の非標準APIエンドポイントを使用する必要があるユーザーにとって非常に役立ちます。セキュリティ、コンプライアンス、またはコスト管理の理由でリバースプロキシに依存しているユーザーが多くいるため、AIリクエストを独自のインフラストラクチャ経由でルーティングする柔軟性があれば、このプラグインを環境に統合することがはるかに容易になります。 -
ユーザーの言語に基づいたローカライズされたチャットタイトルの生成
現在、チャットタイトルは英語でのみ生成されます。ユーザーの優先言語でタイトルを作成できる機能があれば、特に非英語圏のコミュニティにとって、より良いユーザーエクスペリエンスを提供できるでしょう。
ご意見をお聞かせください!