의미론적 검색(Semantic search)은 실제로 매우 잘 작동하며, 일반 검색보다 더 나은 결과를 제공합니다. 이 검색 시스템을 사이트 전체에서 사용할 수 있지만, 기본적으로 활성화되어 있지 않습니다. 검색 시 해당 옵션을 선택해야 합니다.
이 검색을 기본적으로 사용할 수 있을까요? 그리고 이 검색을 사용하면 비용이 발생하나요?
Discourse용 Algolia 플러그인을 확인해 보세요. 내 사이트 몇 개에서 잘 작동하고 있습니다:
1개의 좋아요
시맨틱 검색(Semantic Search) 방식을 전면 개편하고 있으며, 기본 검색 결과와 함께 결과를 표시하도록 개선할 예정입니다. 이를 통해 필요한 기능을 충족할 수 있을 것입니다. 몇 주 내에 적용될 예정입니다.
10개의 좋아요
저희는 Discourse AI에 일반 검색과 통합된 시맨틱 검색을 출시했습니다. 이제 더 나은 결과를 얻기 위해 HyDE를 사용하므로, 사용 후 피드백을 남겨주시면 감사하겠습니다. 큰 변화 중 하나는 임베딩 모듈과 LLM 서비스(OpenAI, Anthropic 또는 Llama2)를 모두 설정해야 한다는 점입니다.
Meta에서 직접 테스트해 보실 수 있습니다.
5개의 좋아요
정말 멋져요. 곧 사용하게 되길 기대하고 있어요. 여러분 모두 최고예요.
1개의 좋아요
조금 사용해 본 후 몇 가지 관찰 사항을 정리해 보았습니다:
- 일반 검색과 결과가 다릅니다. 검색할 키워드를 정확히 알고 있을 때 키워드/관련성 검색이 오히려 가장 좋은 결과를 내놓는 경우도 있어서 항상 더 나은 것은 아니지만 …
- 더 넓은 범위의 결과를 반환하며, 이 결과들은 때때로 매우 유용합니다.
- 현재 제 환경에서는 속도가 정말 느립니다. 검색(Retrieval) 앞에 LLM 생성 단계가 있으므로 어느 정도 불가피하다는 점은 이해하지만, 이것이 수정 가능한 문제인지 확실하지 않습니다. 알아두면 좋을 것 같습니다. 짧은 gpt-3.5 호출보다 느려 보입니다…
UI 관련 사항:
- 반환된 결과 중 어떤 부분이 관련 있는 것인지 항상 명확하지 않습니다. 제가 작업 중인 앱에서는 임베딩을 생성하기 전에 문서를 상당히 작은 단위(문장/단락)로 분할(Chunking)하고 있습니다. 덕분에 검색/검색(Retrieval) 시 각 문장을 의미적 유사성에 따라 색상으로 표시할 수 있습니다. 이는 검색 키워드를 강조 표시하는 것과 비슷하지만, 의미적으로 유사한 부분은 따뜻하게, 유사하지 않은 부분은 차갑게 색칠된 히트맵처럼 보일 것입니다.
- 의미적 결과를 보기 위해 클릭해서 확장해야 한다는 점이 번거롭습니다.
- 키워드 검색 결과와 의미적 검색 결과를 결합하는 방법에 대해 생각해 보셨나요? 결과 집합의 정렬 기준으로 ‘유사성(Similarity)’ 또는 '관련성(Relevance)'을 선택할 수 있다면 어떨까요? 그렇게 하면 '유사성’을 선택했을 때 키워드 기반 결과를 먼저 제시하고, hyde 검색으로 가져온 문서가 도착하는 순서대로 목록에 삽입할 수 있을 것입니다.
- 유사도 매칭을 위해 사용된 가상의 문서(Hypothetical Document)를 볼 수 있다면 정말 흥미로울 것 같습니다(적어도 제게는요). 때로는 이 문서를 편집하고 싶을 수도 있고, 코사인 유사도는 상대적으로 저렴하기 때문에(LLM 생성 호출에 비해) 사용자가 쿼리/가상 문서를 업데이트할 때 UI에서 결과를 업데이트하는 속도가 여전히 꽤 빠를 것입니다.
전체적으로 — 정말 멋진 기능입니다. 감사합니다! 챗봇이 이 결과를 활용할 수 있도록 구현되면 훌륭할 것입니다.
B
1개의 좋아요
이번 주에만 몇 가지 기발한 최적화를 통해 처리 시간을 45초에서 7초로 단축시켰습니다. 또한 캐시를 채우는 데 사용하고 있어 반복적인 검색은 즉시 처리됩니다.
현재 우리는 주제당 하나의 임베딩만 생성하고 있습니다. 향후 게시물별로 임베딩을 생성할 계획이며, 이를 통해 검색 기능이 더욱 향상될 것입니다.
현재 UI는 임시이며 우리 디자인 팀이 만든 것이 아닙니다. 우리의 목표는 이를 배포하고 커뮤니티가 기능의 기능적 측면에 대해 피드백을 제공할 수 있도록 하는 것이었습니다. 적절한 인터페이스가 곧 따라올 것입니다.
그렇게 하면 사용자가 결과를 스캔하는 동안 결과가 움직이게 되는데, 이는 UX에서 큰 금기입니다. 우리의 주요 목표는 둘 다 유용하게 검색 경험에 기여하면서도 짜증스럽지 않도록 제시하는 방법을 찾는 것입니다.
네, 그래서 이전과 달리 이제 둘 다 동일한 화면에서 단일 입력으로 이루어지도록 변경했습니다. 둘의 더 깊은 통합은 이 화면에 선택할 UI 패러다임에 달려 있습니다.
사용자 자신의 인스턴스에서는 ai_api_audit_logs를 쿼리하여 이를 확인할 수 있습니다. 예를 들어, 여기에서 이전에 수행한 Discourse app freezing on iOS 검색은 다음과 같은 가상 게시물을 생성했습니다:
제목: iOS에서 Discourse 앱이 멈추는 문제
여러분 안녕하세요, 저는 몇 달 동안 아이폰에서 Discourse 앱을 사용해 왔는데, 최근에는 꽤 자주 앱이 멈추는 현상을 겪고 있습니다. 앱이 갑자기 멈추고 반응이 없게 되는데, 보통 새 게시물을 불러오거나 카테고리 사이를 이동할 때 발생합니다. 여러 주제를 동시에 열어두고 그 사이를 오갈 때 더 자주 발생하는 것 같습니다. 로딩 스피너가 무한정 돌아가고 버튼을 탭해도 아무 반응이 없습니다. 결국 다시 로드되지만 꽤 짜증스럽습니다. 저는 iPhone 8 Plus에서 iOS 13.3 최신 버전을 실행 중입니다. 최근 이 문제를 겪은 다른 사람이 있나요? 모바일 브라우저에서는 포럼 자체는 정상적으로 로드되는데, 전용 앱만 이상한 동작을 하고 있습니다. 앱을 강제 종료하고 다시 여는 것을 몇 번 시도해 봤지만 해결되지 않았습니다. 이러한 멈춤 문제를 해결하는 방법에 대해 다른 Discourse 모바일 사용자분들의 조언이 있을까요? 앱이 계속 멈추게 된다면 사용을 중단해야 하는 상황이 오고 싶지 않습니다. 도움이나 조언을 미리 감사드립니다!
프롬프트를 몇 가지 조정했기 때문에 결과에 대해 놀라울 정도로 만족하고 있습니다.
흥미로운 제안이지만, 평균적인 사용자에게 이 흐름을 설명하기는 꽤 복잡합니다. 그렇다고 해도 Shopify가 관리자 UI에서 AI가 제안한 제품 추천을 사용자가 오버라이드할 수 있도록 한 방식은 꽤 마음에 듭니다. 결국 우리도 여기서 같은 방식을 적용할 수 있을 것입니다.
이미 2일 전부터 그렇게 되고 있습니다. AI 봇은 이 기술을 사용하여 내부 검색 결과의 1/4을 소싱하고 있습니다.
5개의 좋아요
This topic was automatically closed 30 days after the last reply. New replies are no longer allowed.