能否将网站默认搜索设为语义搜索？这种搜索的费用是多少？

[kuaza]

AI Search for finding non-exact matches

We use our site as a knowledge-base and discussion forum for a university department. So for example, I can imagine people wanting to ask things like: when will MSc grades be available? what is the pass mark for MPsych students? how many weeks leave can I book in one go? what happens if my tutee fails a stage 1 module? what does the university require that I do if my tutee is self harming? how much do we pay research participants? how do I get promoted? what sources of phd funding are availabl…

语义搜索确实效果很好，比常规搜索能提供更好的结果。我们可以在整个站点上使用这个搜索系统，但它不是默认的。搜索时必须选择它。

是否可以默认使用此搜索？此调用有成本吗？

[denvergeeks]

您可以查看 Algolia Discourse 插件。我已经在我的几个网站上成功运行了它：

https://meta.discourse.org/search?q=algolia

Semantic search: the next big thing in search engine technology

[Falco]

我们正在改进语义搜索的工作方式，它将与默认搜索结果一起显示结果，这应该能满足您的需求。它应该会在几周内上线。

[Falco]

@kuaza

语义搜索效果非常好，比常规搜索能提供更好的结果。我们可以在整个站点中使用这个搜索系统，但它不是默认提供的。搜索时必须选择它。

我们刚刚在 Discourse AI 中将语义搜索集成到常规搜索中。它现在使用 HyDE 来获得更好的结果，所以请告诉我您的使用体验。一个大的变化是，您必须同时配置嵌入模块和一个 LLM 服务（OpenAI、Anthropic 或 Llama2）。

您可以在 Meta 上测试它。

[kuaza]

看起来很棒。我很高兴很快就能使用它。你们都很棒。

[bigfudge (Ben)]

现在已经玩了一会儿了，有一些观察结果：

• 结果与常规搜索不同。不一定总是更好，因为有时关键字/相关性搜索在你搜索关键字时似乎能获得最佳结果，但是……
• 它确实返回了更广泛的结果集，这些结果有时非常有用。
• 目前对我来说速度真的很慢。我意识到这在某种程度上是不可避免的，因为检索前面有一个 LLM 生成步骤，所以不确定这是否可以修复，但值得了解。它似乎比简短的 gpt-3.5 调用要慢……

一些 UI 点：

• 在返回的结果中，哪些部分是相关的并不总是显而易见的。在我正在开发的一个应用程序中，我在创建嵌入（句子/段落）之前将文档分块得非常小，这意味着在搜索/检索时，可以根据语义相似性为每个句子着色。这有点像突出搜索中的关键字，但看起来像一个热图，语义相似的部分着色为热，不相似的部分着色为冷。
• 必须单击才能展开语义结果，这很烦人。
• 您是否考虑过结合关键字和语义结果的方法？是否可以选择“相似性”或“相关性”作为结果集的排序顺序？这样，如果你选择了“相似性”，你就可以从基于关键字的结果开始，并在 hyde 检索到的文档到达时将它们插入列表中。
• 能够看到用于相似性匹配的假设文档将非常有趣（至少对我来说）。我可以想象有时想要编辑这个文档……而且因为余弦相似性相对便宜（与 LLM 生成调用相比），在 UI 中更新结果会相当快，因为用户会更新他们的查询/假设文档。

总而言之——这真的很酷，谢谢！当这个实现并允许聊天机器人使用结果时，将会很棒。

B

[Falco]

@bigfudge

目前对我来说真的很慢。我意识到这在某种程度上是不可避免的，因为检索前面有一个 LLM 生成步骤，所以不确定这是否可以修复，但值得了解。它似乎比简短的 gpt-3.5 调用要慢……

本周我们通过一些巧妙的优化，成功地将时间从 45 秒缩短到 7 秒，并且我们正在使用它来填充缓存，因此重复搜索是即时的。

@bigfudge

返回的结果并不总是清楚哪部分是相关的。在我正在开发的一个应用程序中，我在创建嵌入（句子/段落）之前将文档分块得非常小，这意味着在搜索//检索时，可以根据语义相似性为每个句子着色。这有点像突出搜索的关键字，但看起来有点像热图，语义相似的部分颜色较热，不相似的部分颜色较冷。

目前我们每个主题进行一次嵌入。我们计划为每个帖子进行嵌入，这将使未来的搜索更加出色。

@bigfudge

不得不点击展开语义结果，这很烦人。

目前的 UI 是临时的，并非由我们的设计团队制作。我们的目标是将其推出，让我们的社区试用并收集有关功能方面的反馈。一个合适的界面将很快跟进。

@bigfudge

这样，如果你选择了“相似性”，你就可以从基于关键字的结果开始，并在它们到达时将 hyde 检索到的文档插入列表中。

这会使你在扫描结果时结果移动，这在用户体验中是大忌。我们的主要目标是找到一种方法，以一种有益且不烦人的方式呈现两者，从而增强搜索体验。

@bigfudge

你有没有想过结合关键字和语义结果的方法？

是的，这就是为什么我们将其从之前的单一输入合并到在同一个屏幕上发生。进一步集成两者取决于我们为该屏幕选择的 UI 范例。

@bigfudge

这将非常有趣（至少对我来说），能够看到用于相似性匹配的假设文档。

在你自己的实例中，你可以查询 ai_api_audit_logs 来获取此信息。例如，之前在这里搜索 Discourse app freezing on iOS 得到了以下假设帖子：

主题：Discourse app freezing on iOS

大家好，我使用 Discourse 应用程序在我的 iPhone 上已经有几个月了，但最近我发现它经常冻结。当我想加载新帖子或在类别之间导航时，应用程序会锁定并且没有响应。当我同时打开多个主题并在它们之间切换时，这种情况似乎更频繁地发生。加载旋转器会无限期地旋转，点击按钮无效。最终它会重新加载，但这越来越令人讨厌。我正在运行最新版本的 iOS 13.3 的 iPhone 8 Plus。最近有其他人遇到这个问题吗？论坛本身在移动浏览器中加载正常，只是专用应用程序才出现问题。我尝试过强制关闭并重新打开应用程序几次，但这似乎无法解决问题。其他 Discourse 移动用户有什么建议可以解决这些冻结问题吗？如果它继续锁定我，我将不愿停止使用该应用程序。提前感谢任何帮助或建议！

由于我们对提示进行了一些调整，我对结果感到非常惊讶。

@bigfudge

我可以想象有时想编辑这个文档……而且因为余弦相似性相对便宜（与 LLM 生成调用相比），在 UI 中更新结果仍然会非常快，因为用户会更新他们的查询/假设文档。

这是一个有趣的提议，但对于普通用户来说，解释这个流程非常复杂。不过，我非常喜欢 Shopify 为其管理 UI 所做的工作，他们允许你覆盖一些 AI 建议的产品推荐。最终我们也可以在这里做同样的事情。

@bigfudge

当这个功能实现，让聊天机器人可以使用这些结果时，那将很棒。

这已经是两天前的事情了。AI Bot 使用这种技术为其 1/4 的内部搜索结果提供信息。