Usar búsqueda semántica para temas relacionados

[fbpbdmin (deepblue)]

una pregunta sobre la lista de temas relacionados habilitados por IA

en el complemento Discorse AI, hay una configuración
Usar búsqueda semántica para temas relacionados.

cuando se activa, en la parte inferior de cada tema, habrá una lista de temas relacionados,
una pregunta sobre esto, ¿el sistema envía una solicitud a la API de IA cada vez que alguien abre un tema para verlo, para obtener una lista de temas relacionados?
si funciona de esta manera, parece mucho tráfico saliendo al servidor de IA…

gracias…

vi la publicación de Falco aquí, ¿parece que sí…?

Differences in search latency between AI semantic and keyword search

Can you expand on what you mean by latency here? For Related Topics, since every embeddings is pre-calculated there is not extra runtime cost. Much to the contrary, finding related topics SQL query is faster than our old suggested topics query, and we cache related topics for even faster performance. As for AI Search, our current HyDE[1] approach to it incurs in serious latency, which is why it happens async and the user is presented first with the standard search and the option to augment it…

[Falco]

@fbpbdmin

una pregunta sobre esto, ¿el sistema envía una solicitud a la API de IA cada vez que alguien abre un tema para verlo, para obtener una lista de temas relacionados?

No, no funciona así.

Puedes leer un resumen que escribí sobre cómo funciona en Discourse AI - Related Topics: Enhancing Content Exploration

[fbpbdmin (deepblue)]

oh, gracias, se maneja del lado del servidor de discourse con la base de datos pgvector, sin carga adicional en el servidor de IA… gracias por la información…