Utilisez la recherche sémantique pour des sujets liés

[fbpbdmin (deepblue)]

une question sur la liste des sujets connexes activée par l’IA

dans le plugin Discourse AI, il y a un réglage
Utiliser la recherche sémantique pour les sujets connexes.

lorsque vous l’activez, en bas de chaque sujet, il y aura une liste de sujets connexes,
une question à ce sujet, le système envoie-t-il une requête à l’API d’IA chaque fois que quelqu’un ouvre un sujet pour le consulter, pour obtenir une liste de sujets connexes ?
si cela fonctionne ainsi, cela semble générer beaucoup de trafic vers le serveur d’IA…

merci…

vu le post de Falco ici, il semble que oui… ?

Differences in search latency between AI semantic and keyword search

Can you expand on what you mean by latency here? For Related Topics, since every embeddings is pre-calculated there is not extra runtime cost. Much to the contrary, finding related topics SQL query is faster than our old suggested topics query, and we cache related topics for even faster performance. As for AI Search, our current HyDE[1] approach to it incurs in serious latency, which is why it happens async and the user is presented first with the standard search and the option to augment it…

[Falco]

@fbpbdmin

une question à ce sujet, le système envoie-t-il une requête à l’API d’IA chaque fois que quelqu’un ouvre un sujet pour le consulter, afin d’obtenir une liste de sujets connexes ?

Non, ce n’est pas comme ça que ça fonctionne.

Vous pouvez lire une note que j’ai écrite sur son fonctionnement dans Discourse AI - Related Topics: Enhancing Content Exploration

[fbpbdmin (deepblue)]

oh, merci, c’est géré côté serveur discourse avec la base de données pgvector, pas de charge supplémentaire sur le serveur IA… merci pour l’info…