DiscourseAI 向け自己ホスティング OpenSource LLM

Discourse AI のリクエストにカスタム HTTP ヘッダーを追加する方法はありますか?当社には、さまざまな目的で使用する GPU 搭載サーバーがあり、OpenAI 互換の API がありますが、セキュリティのため API Management ゲートウェイの背後に配置しています。このゲートウェイはカスタム HTTP ヘッダー(SubscriptionKey のようなもの)を必要とし、認証キーをここで提供します。

この認証キーは APIM を通過するためのものであり、OpenAI API のようなサービスに提供する API キーとは異なります。

admin/plugins/discourse-ai/ai-llms の設定ページで、各 LLM の設定にカスタムヘッダーを追加する方法があると素晴らしいです。このようなユースケースのために、‘Provider’ ドロップダウンに「カスタムオプション」を追加し、追加のオプションを提供するのはどうでしょうか?

「いいね!」 1