我认为大多数人都在使用一家大型人工智能服务提供商的付费套餐（文档中此处列出了支持的模型）。
不幸的是，我不知道有任何适合自托管用户的经济实惠的选择——据我所知，任何基于 GPU 的方案都在您提到的价格范围内，而且我怀疑，即使在更强大的机器上，基于 CPU 的推理也会太慢。
1 个赞
我认为大多数人都在使用一家大型人工智能服务提供商的付费套餐（文档中此处列出了支持的模型）。
不幸的是，我不知道有任何适合自托管用户的经济实惠的选择——据我所知，任何基于 GPU 的方案都在您提到的价格范围内，而且我怀疑，即使在更强大的机器上，基于 CPU 的推理也会太慢。