대화형 AI 검색, Discourse AI에 도입 예정

[Falco]

메타에서 테스트할 수 있는 강력하고 새로운 기능, Discourse AI Search discoveries^[1]를 발표하게 되어 매우 기쁩니다. 이 기능은 쿼리에 대한 AI 생성 답변을 제공하여 정보 탐색을 더 빠르고 직관적으로 만들어 검색 경험을 향상시킵니다.

무엇이 새로워졌나요?

Discourse AI Discover는 고급 AI 시스템을 활용하여 검색에 대한 즉각적이고 맥락에 맞는 답변을 제공합니다. 단순히 링크만 반환하는 전통적인 검색과 달리, 이 기능은 관련 리소스를 제공하여 심층적인 탐색을 지원하면서도 질문에 직접 답변합니다.

기능 뒤의 기술

Discourse AI Discover는 우리의 강력한 Persona 시스템 위에 구축되었으며 다음을 포함합니다:

• 포괄적인 RAG 지원:

  • 전통적인 키워드 검색
  • 주제 임베딩을 사용한 의미론적 검색
  • 내장 도구를 통한 Google 검색 통합
  • 텍스트 파일 및 PDF 콘텐츠 검색 기능
  • 커스텀 도구 지원을 통한 외부/연합 검색

• 고급 AI 기능:

  • 파인튜닝된 검색 모델과 호환
  • 사용자 정의 가능한 시스템 프롬프트 및 매개변수
  • 조정 가능한 온도 설정
  • 설정 가능한 도구 활용

향상된 탐색성

이전 AI HyDE 검색 기능에 대한 여러분의 소중한 피드백을 바탕으로, 어디서든 검색할 때 이러한 AI 기반 답변에 접근할 수 있도록 빠른 검색 및 전체 페이지 검색 인터페이스 모두에 이 기능을 통합했습니다.

직접 체험해 보세요

이 기능은 현재 메타에서 테스트용으로 제공됩니다. 자신의 Discourse 인스턴스에 구현하고 싶다면 단순히 다음을 수행하세요:

1. 관리자 설정에서 페르소나를 생성합니다.
2. 숨김 설정 ai_bot_discover_persona를 생성한 페르소나의 ID로 설정합니다.

우리는 Discourse 경험을 지속적으로 개선하는 데 전념하며, 이 새로운 검색 기능에 대한 여러분의 피드백을 환영합니다.

---

1. 이름 미정 ↩︎

[Jagster (Jakke Flemming)]

빠르지는 않아요 하지만 여기에서도, 제 환경에서도 잘 작동합니다. 물론 AI가 작동하는 정도만큼이긴 하지만요 — 가끔은 더 잘 작동하기도 하고, 가끔은… 좀 덜 잘 작동하기도 하죠.

제가 계속 생각하는 건, 모든 검색에서 이것을 활성화할 필요가 정말로 있는가 하는 것입니다.

^[1]

---

1. 이것은 EU에서는 문제가 되지 않지만, 기본적으로 구글이 했던 것과 비슷하며 꽤 많은 사람들이 이를 싫어합니다. 물론 목적은 매우 다릅니다. 궁극적인 해결책은 이것을 사용자 설정으로 옮기는 것입니다. ↩︎

[Canapin (Coin-coin le Canapin)]

작은 문제 하나. 실시간 작성 기능이 새로 입력되는 각 줄마다 기존 검색 결과를 아래로 밀어내서, 특히 스크롤을 동시에 하고 있을 때 여러 번 잘못된 결과를 클릭하거나 오클릭을 하게 되었습니다.

마지막에는 결과가 위로 밀려 올라가기도 합니다:

[Jagster (Jakke Flemming)]

이것은 순수하게 외형적인 문제일 뿐이며, 실질적인 문제라기보다는 ‘자전거에 페인트를 바르는’ 식의 사소한 논쟁에 가깝고, 영어를 모국어로 하지 않는 사용자들에게도 영향을 미치는 문제입니다.

현재 상태는 다음과 같습니다.

• Discourse Discover: 외부 포럼들의 디렉토리/전시 공간
• Discourse Discovers: AI 기반 검색 도우미

제 프롬프트가 꽤 타당하다고 생각하지만, 저는 전문가가 아니기 때문에 확신할 수는 없습니다. 하지만… 어떻게 표현해야 할지… 처음에는 AI에 대한 기대치가 꽤 높았습니다. 그런데 AI가 콘텐츠에 대해 얼마나 적게 사용하고 알고 있는지 깨달았습니다. AI는 마치 처음 찾은 결과 하나만 가지고 정말 만족하며, 실제 맥락적, 의미론적 연결을 찾기 위해 추가적인 조치를 취하지 않습니다.

제 주장의 핵심은 주제(topics)입니다. 꽤 자주 첫 번째 게시글이 사실은 사용자 프롬프트의 일부처럼 작동합니다. 질문과 설명이 포함되어 있기 때문이죠. 그리고 사용자가 찾는 답변은 4번째, 57번째, 혹은 101번째 게시글에 있습니다.

물론, OpenAI 대신 다른 것을 사용하고, 시간과 시간을 들여 실제 작동하는 콘텐츠 데이터베이스를 구축하면 더 나은 결과를 얻을 수 있을 것입니다. 저는 모든 것을 원했지만(raisins from a bun - 모든 것을 다 얻고 싶은 욕심), 그 대가를 지불할 준비는 되어 있지 않습니다.

음, 이 모든 것은 주제에서 벗어난 이야기이며, '포럼에서 AI는 유행인가, 아니면 실질적인 도구인가’에 더 가깝습니다.

제가 원하는 것은 가중치(weighted) 모드의 일반 검색 결과입니다. 먼저 AI에서 X개의 결과를 가져오고, 그 다음 일반 검색 결과를 보여주는 방식이죠. 그리고 제공되는 요약문을 제거할 수 있는 기능도 필요합니다. 이 요약은 자주 틀리고, 실제로 유용한 정보를 제공하지 않기 때문입니다. Discourse의 버전 번호 체계를 설명하는 주제를 찾고 있다면, 짧은 설명이 아니라 관련 주제들을 원합니다. 그런데 지금도 쉽게 찾을 수 없습니다.

이것이 현재 진행 중인 실질적인 문제입니다.

저는 ask.discourse.com을 좋아합니다. 실패/성공률이 50% 근처이지만, 사용은 더… 생산적입니다. 제가 필요한 것을 설명할 수 있기 때문이죠. 그리고 이것이 저에게 더 도움이 될 수 있습니다. 또는 거기의 AI가 답변할 수 없거나 거짓말을 환각(hallucinating)하고 있다는 것을 꽤 빨리 깨달을 수 있습니다.

언젠가 제 포럼에서 이 기능을 내릴 것입니다. 사용자들(저를 포함하여)이 너무 일반적인 질문을 하기 때문에, 어떤 AI도 실제 맞는 결과를 찾지 못합니다. 그리고 더 대화적인 접근을 취할 경우, Discourse의 검색은 도움이 되지 않습니다. 하지만 물론, 여러분은 그 문제를 다루어야 하고, 그렇게 할 것입니다. 그래서 이것이 왜 기능 요청(feature request)인지 제가 완전히 이해하지 못하는 이유입니다.

제가 원하는 것은 무엇일까요? 검색에 ask 옵션을 넣고, 우리가 가진 다른 검색 옵션보다 더 쉬운 방식으로 구현해 주었으면 합니다. 현재 방식은 일반 사용자(john and jane doe)들에게 너무 부담스럽습니다. 제 인스턴스에서 검색을 사용하는 것은 제가 찾고 싶은 주제를 정확히 알고 있을 때뿐입니다. 그렇지 않으면 실제 검색의 신호 대 잡음 비율이 그다지 좋지 않다는 것을 알기 때문에 바로 AI 채팅을 시작합니다.

(교정을 해야 하나… 네, 하지만 귀찮습니다).

[manuel (Manuel Kostka)]

@Jagster

• Discourse Discover: 존재하는 포럼들의 디렉터리/쇼룸
• Discourse Discovers: AI 기반 검색 도우미

이미 Discourse Discover가 존재하기 때문에, AI Discover나 Discoveries라는 이름은 혼란을 줄 수 있다고 생각합니다.

의미론적으로 보면, Discourse Discover는 새로운 커뮤니티를 발견할 수 있다는 느낌을 잘 전달하는 좋은 이름이라고 생각합니다.

반면, AI Discoveries가 실제로 무엇을 말하려 하는지 파악하기 어렵습니다. 이 프로그램이 탐험가 정신을 가지고 포럼 콘텐츠의 알려지지 않은 깊이를 발견하러 나간 것처럼 들리기도 하고, 예상치 못한 통찰력과 개인적 관점의 변화를 담은 투어를 진행하는 것처럼 들리기도 합니다. 하지만 저는 검색을 하고 있을 뿐이며, 원하는 것은 좋은 검색 결과뿐입니다. 왜 단순히 AI 결과나 자연어 검색으로 하지 않을까요?

같은 맥락에서, 모든 AI 관련 기능에 이모지나 아이콘을 사용하는 것은 좀 과장된 표현이라고 생각합니다.

저는 이 기능들 자체에는 반대하지 않지만, 이러한 인격화(anthropomorph)된 표현과 마법 같은 반짝임 없이 더 직관적이고 사용하기 쉬운 방식으로 제공된다면 훨씬 만족스러울 것 같습니다.

[Falco]

@Jagster

현재 다음이 있습니다.

• Discourse Discover: 외부 포럼의 디렉터리/쇼룸
• Discourse Discovers: AI 기반 검색 도우미

@manuel

AI Discover나 Discoveries라는 이름도 혼란스럽다고 생각합니다.

OP에서 언급했듯이, 이름은 아직 최종 결정되지 않았으며 여전히 이름짓기를 진행 중입니다.

@Jagster

저는 ask.discourse.com …를 좋아합니다. 왜냐하면 제가 무엇을 필요로 하는지 설명할 수 있고, 그것이 저에게 더 큰 도움이 될 수 있기 때문입니다.

@Jagster

사용자들은 매우 일반적인 질문을 하고 있습니다 … 더 대화적인 접근 방식이 필요합니다.

@Jagster

제가 원하는 것은 무엇일까요? 검색에 ask 옵션을 넣고 싶습니다.

저희는 "ask.discourse.com"의 UX를 AI 봇 플로우에 가져오는 작업과, 생성형 검색 답변으로 시작된 대화를 “계속할 수 있는” 기능을 개발하는 작업 모두를 진행 중입니다.

이 두 가지 모두 제가 이해한 바에 따르면, 여러분의 피드백에 부합하는 방향으로 나아가게 될 것입니다.

[Don]

안녕하세요, 이 기능은 마음에 들지만 AI의 응답을 항상 기다려야 한다는 점이 다소 번거롭고 느리게 느껴집니다. 이 기능을 사용자 상호작용 뒤에 숨기는 것이 더 좋다고 생각합니다. 예를 들어, AI에게 질문하기 같은 버튼을 클릭하도록 하는 방식이죠. 이렇게 하면 사용자가 클릭 후 응답을 기다려야 한다는 것을 알 수 있습니다. 또한, 특정 검색에 대해 AI의 답변에 관심이 없다면 쉽게 건너뛸 수도 있습니다.

[sam (Sam Saffron)]

그리고 대화를 계속 이어가 보는 건 어떨까요?

[Don]

네, 물론이죠. 처음에 GitHub에서 그 커밋을 봤을 때, “자세히 알려 주세요…”가 AI 봇에게 새로운 메시지로 리디렉션되어 대화를 계속할 수 있는 기능이라고 생각했어요. 정말 멋진 기능이 될 것 같아요.

[Saif (Saif Murtaza)]

한 가지를 알아차렸는데, 요약 결과가 표시될 때 요약 길이에 따라 ‘더 보기’ 선택 항목이 가장 아래에 위치할 수 있어 쉽게 놓칠 수 있습니다.

화면이 작을 경우(예: 모바일이나 오른쪽에 있는 데스크톱 창)에는 '더 보기(…)'가 아래에 표시되므로 이 문제가 덜 두드러집니다.

---

별개의 문제이지만, 아무것도 클릭하지 않았는데도 검색 창이 스스로 닫히는 경우가 있습니다.

재현하려면 아무 내용이나 입력한 후 마우스 포인터를 오른쪽으로 이동시키면 됩니다.

[fbpbdmin (deepblue)]

@Falco 정말 멋진 기능입니다.
구체적으로 어떻게 동작하는지 궁금합니다.
키워드로 먼저 검색을 한 다음, AI가 반환된 게시물들을 기반으로 요약을 생성하는 방식인가요?
아니면 기존 모든 게시물을 학습시키고, 새 게시물이 올라올 때마다 지속적으로 학습을 계속하는 방식인가요?
노고에 감사드리며, 이번 릴리스를 기대하고 있습니다.

[Falco]

@fbpbdmin

키워드로 먼저 검색을 한 다음, AI가 반환된 게시물에 기반하여 요약을 하는 건가요?

기본적으로 그렇습니다. 먼저 LLM에 검색에 사용할 키워드를 요청하고, 키워드 검색과 의미 기반 검색을 모두 수행한 뒤, 원래 질문과 상위 검색 결과를 컨텍스트로 LLM에 전달하여 답변을 생성하도록 합니다.

이 전체 동작은 커스터마이징할 수 있으며, Persona 시스템을 사용하여 사용자 필요에 맞게 조정할 수 있습니다.

@fbpbdmin

아니면 이 모듈이 모든 기존 게시물을 학습하고, 새로운 게시물이 들어오면 계속 학습을 하는 건가요?

Discourse AI는 어떤 학습도 수행하지 않습니다.

[Angela_MRS (Angela)]

안녕하세요,
“Discobot Discoveries” 기능에서 문제가 발생하고 있습니다. 답변이 흰색 글씨에 흰색 배경으로 표시되어 있어, 텍스트를 강조해야만 볼 수 있습니다.

DiscourseHelper의 조언대로 테마 설정(Edit CSS/HTML > Common)을 수정하여 텍스트 색상을 변경해 보았습니다:

.ai-search-discoveries {
  color: #333; /* 원하는 색상으로 변경 */
}

그러나 문제가 여전히 지속됩니다. 이 문제를 해결하는 방법에 대해 조언을 주실 수 있을까요?

미리 감사드립니다!!!

[tpetrov (Toni Petrov)]

안녕하세요 @Falco

방금 테스트해 봤습니다. LLM으로 gpt-4.1을 설정하고 페르소나로는 포럼 헬퍼(forum helper)를 선택했습니다(포럼 리서처(forum researcher)는 모든 쿼리가 매우 구체적이기를 요구해서 마음에 들지 않았거든요). 처음에는 잘 작동했지만, 특정 질문(아마도 일반 검색에서 결과가 없을 때인 것 같지만, 광범위하게 테스트하진 않았습니다)에 대해서는 다음과 같은 화면이 표시됩니다:

그리고 Usage 페이지 /admin/plugins/discourse-ai/ai-usage를 새로고침하면 검색에 6~7개의 요청이 사용된 것으로 나타납니다.
Discoveries에서 답변을 받는 일부 질문의 경우에도 새로고침을 해 보면 요청이 1개가 아닌 여러 개 사용된 것을 확인할 수 있습니다.

[Falco]

@Angela_MRS

답변이 흰색 글씨에 흰색 배경으로 표시되어서, 텍스트를 하이라이트해야만 볼 수 있습니다.

리포트 감사합니다. 이번 주에 해당 기능 개발을 다시 시작했으며, 이 문제를 수정할 예정입니다.

@tpetrov

포럼 헬퍼를 페르소나로 사용

포럼 헬퍼(Forum Helper)는 이 기능에 적합하지 않은 페르소나입니다. 해당 기능 개발을 재개했으며, 이 특정 기능에 더 적합한 기본 페르소나를 제공할 예정입니다.

@tpetrov

검색에 6~7개의 요청이 사용되었습니다.

현재 단일 완료(completion) 요청이 실패하기 전에 최대 7번의 도구 호출(tool call)만 수행할 수 있는 문제가 있습니다. 페르소나를 조정하여 이 한도 이하로 유지하지 않으면 도구 호출 한도에 도달하여 동작이 중단됩니다. 이 문제도 다음 주경에 나올 예정인 기본 페르소나를 통해 해결될 것입니다.

[tvavrda (Tomas Vavrda)]

AI 기반 검색에서 (i)를 클릭한 후 이 다이얼로그가 나타납니다. “작동 원리”를 추가로 클릭해도 아무 반응이 없습니다. 다이얼로그가 닫힐 뿐, 다른 동작은 일어나지 않습니다.

[matthewruzzi]

Discobot discoveries가 제공한 답변에 대한 피드백을 남길 수 있는 방법이 있을까요? 가끔 완전히 틀린 답변을 내는 경우가 있어서요.

[mcwumbly (Dave McClure)]

자신의 사이트에서? 여기서? 아니면 일반적으로?

현재 이를 수행할 내장된 방법은 없지만, 여기와 관련된 내용이라면 #contribute:site-feedback에 토픽을 만드는 것이 적절할 것 같습니다.

[matthewruzzi]

메타에서 디스코봇(Discobot) 발견 결과에 대한 피드백

가끔 Discobot의 발견이 완전히 잘못될 수 있습니다. Ask Discourse의 피드백 버튼처럼 Discobot의 발견에 대해 피드백을 제공할 수 있는 방법이 있으면 좋겠습니다.

[satonotdead]

에이전트를 설정하고 기능을 활성화했으며, 로그에 오류가 없는데도 대화형 AI 검색이 작동하지 않는다면 무엇이 문제일 수 있을까요?

에이전트 구성에서 특정 옵션을 활성화해야 하나요? 즉, 개인 메시지(PM)를 통해 접근 가능해야 하거나 특별한 처리가 필요한가요?