Mistral を埋め込みに使用

貢献 特徴
1

Mistral を埋め込みに使用して、別の問題に遭遇しました。

  • このトピック に従い、プロバイダーに OpenAI を、サービス URL に Mistral の URL を指定してください
  • トークナイザー、シーケンス長、距離関数を選択
  • モデル名を ‘mistral-embed’ に設定

次元数を入力すると、Mistral がそれをサポートしていないとしてエラーを返します。

 Trying to contact the model returned this error: {{
   "object":"error",
   "message":{
      "detail":[
         {
            "type":"extra_forbidden",
            "loc":[
               "body",
               "dimensions"
            ],
            "msg":"Extra inputs are not permitted",
            "input":2000
         }
      ]
   },
   "type":"invalid_request_error",
   "param":null,
   "code":null,
   "raw_status_code":422
}

これは、Mistral がこれを output_dimension と呼んでいるため、完全に OpenAI と互換性がないことが原因です。

dimensions パラメータを省略すると、「テスト実行」は機能しますが、モデルの保存ができず、「dimensions」は必須パラメータであるというエラーが表示されます。

image
image366×1144 33.9 KB

image
image383×623 21.3 KB

GDPR 準拠の観点から Mistral の利用は非常に重要であるため、dimensions パラメータを省略できるようにする（簡単な修正）か、Mistral をファーストクラスのプロバイダーとしてサポートすること（より良い解決策）が望ましいです。

「いいね！」 4