ほとんどの人は、大手AIサービスプロバイダーのいずれかの有料プランを利用していると思います(ドキュメントのこちらにサポートされているモデルのリストがあります)。
残念ながら、セルフホスティング向けの安価な選択肢は認識していません。私が知っているGPUベースのものはすべて、あなたが言及した価格帯にあります。また、CPUベースの推論は、より強力なマシンでも遅すぎると推測します。
ほとんどの人は、大手AIサービスプロバイダーのいずれかの有料プランを利用していると思います(ドキュメントのこちらにサポートされているモデルのリストがあります)。
残念ながら、セルフホスティング向けの安価な選択肢は認識していません。私が知っているGPUベースのものはすべて、あなたが言及した価格帯にあります。また、CPUベースの推論は、より強力なマシンでも遅すぎると推測します。