Используйте семантический поиск для поиска связанных тем

[fbpbdmin (deepblue)]

Вопрос о списке тем, связанных с функциями ИИ

В плагине AI для Discourse есть настройка:
Использовать семантический поиск для связанных тем.

При включении этой опции в нижней каждой темы появляется список связанных тем. Возникает вопрос: отправляет ли система запрос к API ИИ каждый раз, когда кто-то открывает тему для просмотра, чтобы получить этот список?
Если всё работает именно так, то это создаёт значительный объём трафика, направляемого на сервер ИИ…

Спасибо…

Увидел пост Falco здесь, похоже, что именно так и происходит?

Differences in search latency between AI semantic and keyword search

Can you expand on what you mean by latency here? For Related Topics, since every embeddings is pre-calculated there is not extra runtime cost. Much to the contrary, finding related topics SQL query is faster than our old suggested topics query, and we cache related topics for even faster performance. As for AI Search, our current HyDE[1] approach to it incurs in serious latency, which is why it happens async and the user is presented first with the standard search and the option to augment it…

[Falco]

@fbpbdmin

Вопрос по этому поводу: отправляет ли система запрос к API ИИ каждый раз, когда кто-то открывает тему для просмотра, чтобы получить список связанных тем?

Нет, это работает не так.

Вы можете прочитать краткое описание, которое я написал о том, как это работает, по адресу Discourse AI - Related Topics: Enhancing Content Exploration

[fbpbdmin (deepblue)]

О, спасибо, это обрабатывается на стороне сервера Discourse с использованием базы данных pgvector, так что дополнительная нагрузка на сервер ИИ отсутствует… спасибо за информацию…