Discourse AIはサードパーティのリレー/プロキシAPI(例:NewAPI)をサポートしていますか?「Internal Server Error」が表示されます

当社には、OpenAI互換プロキシ経由で毎日数千回のAI呼び出しを行っているお客様がおり、それが機能することはわかっています。主な問題は、「OpenAI互換」と言ったときに、実際にどれだけ互換性があるかということです。

vLLM、Google、Ollama、LMStudioはすべて、当社がテストし日常的に使用しているOpenAI互換APIを提供しています。

特定のプロバイダーが失敗している場合、通常は/logsページのログから理由を簡単に見つけることができます。そこからエラーを共有していただけますか?

「いいね!」 1