GPT-4または3.5はセルフホスティングできません。
Falconや、さまざまなLLaMAベースのモデル(ライセンスに関する質問があります)など、セルフホスティング可能なオープンソースのLLMもありますが、これまでのところ、すべてGPT 4や3.5を下回っています。
あなたの概算は大きく間違っています。LLMをセルフホスティングする場合、おそらくA100またはH100、あるいはそれらを数台必要になるでしょう…価格を検索してみてください…
GPT-4または3.5はセルフホスティングできません。
Falconや、さまざまなLLaMAベースのモデル(ライセンスに関する質問があります)など、セルフホスティング可能なオープンソースのLLMもありますが、これまでのところ、すべてGPT 4や3.5を下回っています。
あなたの概算は大きく間違っています。LLMをセルフホスティングする場合、おそらくA100またはH100、あるいはそれらを数台必要になるでしょう…価格を検索してみてください…