你能详细说明一下你在这里说的延迟是什么意思吗?
对于相关主题,由于所有嵌入都已预先计算,因此没有额外的运行时成本。恰恰相反,查找相关主题的 SQL 查询比我们旧的建议主题查询更快,而且我们还缓存了相关主题以获得更快的性能。
至于 AI 搜索,我们目前的方法 HyDE[^1] 会带来严重的延迟,这就是为什么它会异步进行,并首先向用户展示标准搜索结果,并在 AI 结果准备好后提供增强搜索结果的选项。在 Meta 上,AI 搜索结果平均在正常搜索结果显示 4 秒后准备就绪。
[^1]:GPT-4:HyDE 是 Hypothetical Document Embeddings(假设文档嵌入)的缩写,是一种用于语义搜索的技术,通过内容相似性来查找文档。这种方法通过评估文档内容之间的概念相似性,而不是仅仅依赖关键词匹配,从而实现更精确、更具上下文相关性的搜索结果。它是一种零样本学习技术,结合了 GPT-3 的语言理解能力和对比文本编码器,从而增强了 AI 以更细致、更有效的方式理解和处理自然语言数据的能力。