我知道，“多少算多”或“emacs 是否比 vi 好，当有 nano 时”这类问题很难甚至不可能回答，但还是想问一下。
我正在考虑在 DigitalOcean 上创建一个新的液滴，只是因为这些 AI 东西。那么，在流量不高、涉及资金很少的情况下，哪种方案的性价比最高，目标是 16 GB RAM：
（如今美元和欧元几乎相同）
再说一遍 — 我一无所知 — 但因为 Discourse 是一个客户端依赖的应用程序，或者说与基于 PHP 的 WordPress 完全不同，它不需要那么多的 CPU 功耗，或者我完全错了？但是 AI 解决方案会彻底改变这种玩法，需要 RAM 和 CPU？
而实际的真正问题当然是：如果有人想要例如相关话题块，最低成本是多少？
AI“相关主题”的主要问题在于，您必须为所有现有主题生成嵌入。在大型论坛中，这需要花费一些时间，并且是该操作的“昂贵”部分。但是，您只需要运行一次，因此您可以利用按小时计费的实例来支付最低费用。
为 Meta 生成嵌入花费了我大约 1 小时。因此，您可以例如在 Vultr 上获取 一个配备完整 NVIDIA A100 的 VPS 一小时 来运行它，费用不到 3 美元！
在所有这些嵌入都生成完毕后，您只需要为新主题和已编辑主题生成新的嵌入，这时您大概可以使用基于 CPU 的推理。
所以，假设您现在拥有：
在回填期间，您可以拥有：
回填完成后，您可以将其更改为：
至于第二个实例的大小，一个拥有 4GB RAM 的小型实例可能就足够了，我需要仔细检查一下嵌入服务容器使用了多少 RAM。
你不得不怀疑是否有办法将这项服务与 Steam 上的游戏打包，并使用 Geforce Now 来完成工作 
这实际上听起来并不算太糟。我原本以为价格会高得多，尤其是在内存和 CPU 方面。
您觉得……这个整体方案还在开发中，那我应该再等等，然后再深入研究？ 
我们正在积极开发中，并且在接下来的几周内，随着我们在企业客户中推广此插件并收集反馈，我们将对其进行大量的更改。
话虽如此，花费不到 10 美元来试用此功能，为您的社区提供此功能，并能够尽早提供反馈，对我来说听起来是个不错的交易，但这取决于您的金钱和时间限制。
有一件事我们知道会发生的是，目前我们只在相关主题嵌入中使用 OP，我们将尝试传递 OP 和可以容纳的回复，这意味着需要重新生成所有嵌入。这会再次花费您 3 美元和 1 小时的时间。
This topic was automatically closed 30 days after the last reply. New replies are no longer allowed.