Verwende semantische Suche für verwandte Themen

[fbpbdmin (deepblue)]

eine Frage zur Themenliste, die mit KI verknüpft ist

Im Discourse AI-Plugin gibt es eine Einstellung
Semantische Suche für verwandte Themen verwenden.

Wenn diese aktiviert ist, wird am unteren Ende jedes Themas eine Liste verwandter Themen angezeigt.
Eine Frage dazu: Sendet das System jedes Mal eine Anfrage an die KI-API, wenn jemand ein Thema zum Anzeigen öffnet, um eine Liste verwandter Themen zu erhalten?
Wenn es so funktioniert, scheint dies eine Menge Datenverkehr zum KI-Server zu bedeuten…

Danke…

Habe Falcos Beitrag hier gesehen, scheint so zu sein…?

Differences in search latency between AI semantic and keyword search

Can you expand on what you mean by latency here? For Related Topics, since every embeddings is pre-calculated there is not extra runtime cost. Much to the contrary, finding related topics SQL query is faster than our old suggested topics query, and we cache related topics for even faster performance. As for AI Search, our current HyDE[1] approach to it incurs in serious latency, which is why it happens async and the user is presented first with the standard search and the option to augment it…

[Falco]

@fbpbdmin

Eine Frage dazu: sendet das System jedes Mal eine Anfrage an die KI-API, wenn jemand ein Thema zum Anzeigen öffnet, um eine Liste verwandter Themen zu erhalten?

Nein, so funktioniert es nicht.

Sie können einen kurzen Text lesen, den ich darüber geschrieben habe, wie es funktioniert, unter Discourse AI - Related Topics: Enhancing Content Exploration

[fbpbdmin (deepblue)]

Oh, danke, das wird auf der Serverseite von Discourse mit der Datenbank pgvector gehandhabt, keine zusätzliche Belastung für den KI-Server… danke für die Info…