관련 주제에 의미 검색 사용

[fbpbdmin (deepblue)]

AI 기반 관련 주제 목록에 대한 질문

Discourse AI 플러그인에는 Use Semantic Search for related topics.라는 설정이 있습니다.

이 설정을 켜면 각 주제 하단에 관련 주제 목록이 표시됩니다.
여기서 질문이 하나 있습니다. 누군가 주제를 열어서 볼 때마다 관련 주제 목록을 가져오기 위해 AI API에 요청을 보내는 건가요?
만약 그렇게 작동한다면, AI 서버로 나가는 트래픽이 상당히 많을 것 같은데…

감사합니다…

여기서 Falco님의 게시글을 보았는데, 그렇게 작동하는 것 같네요…?

AI 의미 검색과 키워드 검색의 지연 시간 차이

Can you expand on what you mean by latency here? For Related Topics, since every embeddings is pre-calculated there is not extra runtime cost. Much to the contrary, finding related topics SQL query is faster than our old suggested topics query, and we cache related topics for even faster performance. As for AI Search, our current HyDE[1] approach to it incurs in serious latency, which is why it happens async and the user is presented first with the standard search and the option to augment it…

[Falco]

@fbpbdmin

이 부분에 대해 질문이 있습니다. 누군가 주제를 열어서 볼 때마다 관련 주제 목록을 가져오기 위해 시스템이 AI API에 요청을 보내나요?

아니요, 그렇게 동작하지 않습니다.

동작 방식에 대해 제가 쓴 짧은 글을 Discourse AI - Related Topics: Enhancing Content Exploration 에서 읽어보실 수 있습니다.

[fbpbdmin (deepblue)]

오, 감사합니다. 디스코urs 서버 측에서 pgvector 데이터베이스로 처리되고 있어서 AI 서버에 추가적인 부하가 걸리지 않네요… 정보 주셔서 감사합니다…