Ask AI로 커뮤니티에서 더 잘 검색해 보세요

몇 주간의 실험 끝에, 이제 커뮤니티 내에서 바로 사용할 수 있는 새로운 “Ask AI” 기능을 여러분과 함께 기쁘게 공유하게 되었습니다.

"Ask AI"는 자연어 쿼리와 후속 질문을 지원하여 커뮤니티 사용자가 원하는 답변을 더 빠르게 찾을 수 있도록 돕습니다. 또한 기존 인덱스 검색과 함께 병행해서 작동합니다.

적절한 검색 결과가 없는 경우, 쿼리를 활용하여 적절한 주제 제목과 카테고리를 사용하여 작성기를 여는 “주제 생성” 호출 버튼(call to action)을 사용자에게 제시합니다. :tada:

작동 방식

"Ask AI"를 통해 전송된 사용자 쿼리를 '리라이터(rewriter)'로 전달하며, 이는 전통적인 키워드 검색용과 임베딩을 사용하는 의미론적 검색용 두 가지의 더 나은 쿼리를 반환합니다. 두 가지 검색이 (빠르게) 실행되고 집계된 후, '신테사이저(synthesiser)'에 전달되어 사용자에게 최선의 결과를 제공합니다.

사용자가 쿼리에 후속 질문을 하기를 원한다면, 후속 에이전트(기본값은 Forum Helper)가 해당 지점부터 인수를 합니다. :slight_smile:

모든 호스팅 사이트 :discourse: 에는 호스팅된 모델을 통해 이 기능을 무료로 사용할 수 있습니다. 셀프 호스터 :discourse-bw: 의 경우 임베딩이 설정되어 있는지 확인해야 합니다.

설정

새로 생성된 모든 호스팅 사이트에서는 "Ask AI"가 기본적으로 활성화되어 있습니다.

기존 호스팅 사이트의 경우

  • AI 기능 페이지(/admin/plugins/discourse-ai/ai-features)로 이동하여 “Search” 항목을 찾아 활성화합니다.
  • "Settings"로 들어가서 활성화합니다. 기본 경험 옵션도 선택할 수 있습니다.
    • (설정과 변형을 스크롤하여 확인): :backhand_index_pointing_right:t2:
    • :warning: "AI Discovery"가 활성화된 관리자는 동일한 “Search” 섹션에서 이를 볼 수 있습니다. "AI Discovery"는 새로운 "Ask AI"와 호환되지 않으며, 단계적으로 제거되고 있습니다.

AI 플러그인과 작동하는 모델 외에 활성화해야 하는 설정 목록은 다음과 같습니다:

  • 메인 설정: ai_ask_ai_enabled
  • AI 기능 페이지의 “Embeddings” 기능이 활성화되어 있는지 확인 (호스팅 고객 - 걱정 마세요 :check_mark: ) - 이것이 의미론적 검색을 구동합니다
  • AI 기능 페이지의 “Bot” 기능이 활성화되어 있는지 확인 - 이것이 후속 질문 기능을 구동합니다
    • ai_bot_allowed_groupsai_ask_ai_allowed_groups와 일치해야 합니다.
    • 기본 Forum Helper 에이전트(/admin/plugins/discourse-ai/ai-agents/-1/edit)가 활성화되어 있고 개인 메시지를 허용하도록 설정되어야 합니다.

직접 사용해 보세요 :woman_technologist:t2:

우리는 이미 몇 주 동안 메타(meta)에서 이 기능을 활성화했으며, 특히 풍부한 토론 아카이브를 가진 커뮤니티에서 검색 경험을 향상시킬 수 있다고 믿습니다.

활성화해 보고, 도움이 된 곳, 유용한 토론을 놓친 곳, 그리고 답변이 충분한 맥락을 제공했는지 알려주세요.

17개의 좋아요

좋은 기능입니다. 저희 B&R 커뮤니티에 활성화해 두었습니다. 질문이 하나 있는데, AI 사용량이 증가할 수 있으므로 이와 관련하여 추가 비용이 발생합니까?

2개의 좋아요

Hey @jaroslav.kovar 질문해 주셔서 감사합니다 - 네, 토큰 비용이 발생합니다.

여기서 사용량을 모니터링할 수 있습니다:

  • /admin/plugins/discourse-ai/ai-usage?feature=ask_ai&period=week

기능을 누구에게 노출할지 조정할 수 있습니다. 예를 들어 TL0(모든 사용자) 또는 더 제한적인 TL1 등이 있습니다.

1개의 좋아요

정말 멋지네요! 만들어 주셔서 감사합니다!

새로운 Ask AI 초기 검색 결과에서 표시되는 박스를 3개 또는 4개로 늘릴 수 있는 방법이 있는지 궁금합니다. 아니면 아직 발견하지 못한 자동 기능인가요?

지금은 두 개의 박스만 보이는데, 일부 답변은 처음에 일반적인 개요를 제공하기 위해 3개 또는 4개의 박스가 더 적합하다고 생각합니다.

AI ask AI related count 관리자 설정에서 찾았습니다 :slight_smile:

1개의 좋아요

좋습니다. 또한 ‘max’ 값이라는 점도 참고하세요. 에이전트가 1개 또는 2개만 있다고 판단하면, 그렇게만 처리합니다.

3개의 좋아요

대형 호스팅 포럼에서 초기 피드백을 활용한 개선 사항.

  • 프롬프트 입력 필드를 더 크게 만들어 주세요.

    상당히 상세한 프롬프트를 입력했는데, 검색 텍스트 상자가 제출 전에 전체 프롬프트를 검토하거나 편집하기 어렵게 만듭니다.

    검색 텍스트 상자에 표시된 검색/프롬프트는 다음과 같습니다:

제출된 전체 프롬프트는 다음과 같습니다:

전통적인 키워드 검색보다 프롬프트가 자연스럽게 길고 표현력이 풍부할 수 있는 AI 검색의 경우, 더 크거나 확장 가능한 입력 영역이 유용할 것입니다.


  • 모든 일치하는 주제 보기 결과를 열 헤더인 답변, 조회 수, 활동 기준으로 정렬할 수 있도록 해 주세요.

image

이 경우, 찾고자 하는 정확한 주제를 알고 있었고 또한 그것이 인기 있는 주제임을 알고 있었습니다. 모든 일치하는 주제 보기 결과를 받은 후에도 여전히 조회 수 열을 수동으로 훑어봐야만 아직 열려 있는 상태의 높은 조회 수를 가진 주제를 찾아낼 수 있었습니다.

답변, 조회 수, 또는 활동을 클릭하여 결과 집합을 정렬할 수 있다면, 초기 의미론적 검색이 그 역할을 한 후 AI 검색 결과를 훨씬 더 쉽게 좁혀 볼 수 있을 것입니다.

이 경우에는 Ask AI 기능이 적합하지 않다고 생각합니다. 대신 https://ask.discourse.com/discourse-ai/ai-bot/conversations?agent=discourse-helper (전체 페이지)를 사용하는 것이 더 나을 것입니다.

사용자가 특정 글자 수를 초과할 때 전용 페이지로 이동하도록 하는 것은 별도로 고려해 볼 수 있지만, 텍스트박스를 한 줄 이상으로 확장하는 것은 어려울 것으로 보입니다.

좋습니다, 그 부분은 고려해 보겠습니다. :ok_hand:t2:

2개의 좋아요

제 생각은 다음과 같습니다. ask.discourse.com는 커뮤니티 콘텐츠에 접근할 수 없어 동일한 검색 질문에 답할 수는 없지만, UI와 (아마도) 기본 구현 모두에서 훨씬 더 큰 프롬프트 입력을 지원하는 프레임워크의 유용한 예시를 제공합니다.

물론, 무언가 같은 것이라는 표현은 그것이 결국 무엇을 의미할지 조금은 막연하게 느껴집니다. 마치 쇼의 다음 시즌 첫 에피소드를 기다리는 것 같은 기분입니다. :slightly_smiling_face:

이제 Discourse 검색이 Ask AI로 설정되어 이 유형의 질문을 처리할 수 있으므로, 불필요하게 제한하기보다는 검색 인터페이스가 그 기능을 수용하도록 확장되기를 바랍니다.

솔직히 말하면, 저는 종종 Discourse 검색이 유용하기보다 더 답답하다고 느껴서 사용을 꺼렸습니다. 하지만 Ask AI 덕분에 진정한 가능성을 보여주기 시작하고 있으며, 이 기능 자체가 할 수 있는 일을 입력 UI가 제한하는 것은 보고 싶지 않습니다.


어떤 의미에서는, 이는 Google이 몇 개의 키워드를 중심으로 설계된 검색 인터페이스를 대화형 AI 쿼리도 수용해야 하는 것으로 발전시키는 데 직면한 도전을 떠올리게 합니다. :man_shrugging:

ask.discourse.com은 단지 예시일 뿐이며, 여러분도 자신의 커뮤니티에서 동일한 기능을 활성화할 수 있습니다. 이는 단순히 AI 봇 기능입니다. 또한 메타(meta)에서도 https://meta.discourse.org/discourse-ai/ai-bot/conversations에서 이 기능을 제공하고 있지만, 아마도 일부 사용자만 사용할 수 있을 것입니다.

우리는 피드백을 진지하게 받아들이고 있으며, 사람들이 그 사실을 잘 모르고 있지만 백엔드에서 많은 작업이 이루어지고 있습니다.

2개의 좋아요

감사합니다!

활성화되어 있고 접근 권한도 있습니다. 이제 저는 마치 스타 트렉의 데이터(Data)처럼 말하기 시작하는 것 같습니다. :slightly_smiling_face:

https://community.openai.com/discourse-ai/ai-bot/conversations?agent=forum-helper&llm=gpt-56-medium

불확실한 점은 그 포럼에서—or 다른 포럼에서—얼마나 많은 사용자가 해당 페이지에 접근할 수 있는지가 궁금합니다.

간단한 개선안으로, 검색/AI에게 묻기 페이지에서 AI 봇 대화 페이지로 연결되는 링크를 제공하거나, 해당 옵션을 더 쉽게 찾을 수 있도록 만드는 것이 좋을 것 같습니다. 예를 들어 AI 봇에서 계속하기와 같은 문구가 두 인터페이스 간의 관계를 더 명확하게 보여줄 수 있습니다.


Discourse AI를 실험해 보던 중:

사용 가능한 에이전트 목록이 다소 압도적으로 느껴질 수 있습니다. Discourse AI의 초기 발전 과정을 일부 지켜봐 왔기 때문에 그것들이 무엇에 사용되는지 어느 정도는 알고 있습니다. 하지만 처음 이곳에 온 사람이라면 선택지를 평가하기가 어려울 것 같습니다.

두 개의 에이전트로 동일한 프롬프트를 시도해 보았습니다:

  • Forum Helper — 일반 목적용이라고 설명되어 있기 때문입니다.
  • Discover — 기본 에이전트였기 때문입니다.

말씀하신 대로, UI와 워크플로우는 상당한 분량의 프롬프트를 입력하는 데 훨씬 더 적합합니다.

Discover의 결과는 몇 개의 링크가 포함된 단락 하나였으며, 이 특정 프롬프트에 대해서는 큰 가치를 주지 않았습니다.

반면 Forum Helper의 결과는 여러 단락으로 이루어져 있었고, 읽을 가치가 있었으며 후속 조치가 필요해 보였습니다. 단순히 관련 주제 몇 가지를 반환하는 것보다 인터넷에 대해 훨씬 더 많은 조사를 수행한 것으로 보였습니다.

이로 인해 에이전트 선택이 사용자에게 더 명확하게 제시되어야 하거나, 사용자가 하려는 작업에 따라 자동으로 선택되어야 하는지 궁금해집니다.


이로 인해 더 먼 미래의 또 다른 잠재적 문제로 이어집니다.

포럼 외부에서 ChatGPT에게 https://community.openai.com/를 검색하도록 요청할 때, 가끔 하루 동안 사용 가능한 요청 횟수에 도달했다는 응답을 받은 적이 있습니다.

그 한도 값이 Discourse, 중개자, 또는 외부 검색 시스템 중 어디에서 기인하는지 아직 알 수 없으므로, 이를 근거로 결론을 내리고 싶지 않습니다.

다음에 그런 상황을 만나면 정확한 메시지를 캡처해서 여기에 게시하겠습니다. 외부 AI 시스템이 Discourse 사이트의 공개 콘텐츠와 상호작용하는 방식을 고려할 때 유용할 수 있습니다.

위에서 언급된 기능입니다. 질문해 주셔서 해당 기능을 더 강조할 수 있게 되어 좋습니다.

모달 하단 근처의 “묻기(Ask)” 버튼은 AI 봇 기능으로 연결됩니다. 이는 “AI에게 묻기” 기능보다 이전부터 존재했던 별도의 AI 기능이며, 일부 구성이 필요합니다.


일정 속도 제한(rate limit)이 관련되어 있을 수 있습니다. 해당 커뮤니티 내에서 이 문제를 다루어那里的 관리자가 해결할 수 있도록 하는 것이 가장 좋습니다.

1개의 좋아요

훌륭한 기능입니다. 다만, 사용자가 놓치거나 오해할 가능성을 줄이기 위해 좀 더 눈에 띄게 만들 수 있을 것 같습니다. 저는 Ask 버튼이 어떤 역할을 하는지 처음에는 놓쳤거든요.

마우스를 올렸을 때 툴팁을 표시하거나, Ask 옆에 작은 도움말/정보 아이콘을 추가하여 AI 봇 기능이 열림을 간략히 설명하는 것도 좋은 방법일 것입니다.

image

또 다른 가능성은 버튼 텍스트를 조금 더 구체적으로 변경하는 것입니다. 예를 들어 Ask AI처럼 하면 추가적인 상호작용 없이도 버튼의 목적을 명확히 알 수 있을 것입니다.

1개의 좋아요