포럼의 페르소나 기반 RAG 검색에서 'Search/Read Private' 기능이 작동하지 않나요?

사설 포럼의 질문에 답하는 챗봇을 설정하려고 시도해 왔는데, 포럼을 공개로 설정해야만 포럼 주제에서 검색 결과가 나오는 것 같습니다. 페르소나에서 “사설 읽기”와 “사설 검색”을 설정해 보았으며, 페르소나의 “허용된 그룹”을 카테고리 보안과 동일한 그룹으로 설정해 두었습니다. 다른 시도해 볼 만한 방법이 있을까요?

페르소나와의 대화를 시작하는 사용자는 비공개 카테고리에 접근할 수 있습니까?

1개의 좋아요

네. 주제가 하위 카테고리에 있으므로, 하위 카테고리 문제인지 확인하기 위해 상위 카테고리(둘 다 비공개)로 다시 테스트해 보겠습니다.

방금 확인해 보니, 해당 주제를 상위 포럼에 직접 게시해도 동일한 문제가 발생합니다. 이 포럼들을 공개로 설정하면 정상적으로 작동합니다.

당신의 설정으로 이걸 재현할 수 있을까요?

이 문제를 디버깅하는 좋은 방법 중 하나는 AI 디버깅을 활성화하는 것입니다. 활성화하면 (I) 버튼이 보이는데, 이 버튼을 클릭하여 LLM으로 전송되는 대량의 데이터를 살펴본 후, 해당 데이터에 사적 콘텐츠가 포함되지 않았는지 확인해 주실 수 있을까요?

우리의 엔진은 검색 백엔드에 사용자를 전달합니다(봇과 대화를 시작하는 사용자).

2개의 좋아요

안녕하세요 @sam,

디버깅 팁을 알려주셔서 감사합니다. 전에 그 부분을 확인해 본 적이 없었거든요!

LLM으로 여러 메시지가 전송되는 것을 볼 수 있지만, “search private”가 작동하지 않는 이유를 이해하는 데 도움이 될 만한 내용은 없습니다. 메시지 “쌍”이 2개 있는 것 같습니다. 하나는 실제 검색을 위한 것이고, 다른 하나는 “titlebot”을 위한 것입니다(검색 결과에서 제목을 추출하는 기능입니다).

제가 파악한 바로는, 첫 번째 검색 메시지는 Dall-E로 전송되고 있습니다(왜 그런지 모르겠네요?) 따라서 관련이 없어 보입니다(확인 부탁드립니다). 두 번째 메시지는 다음과 같으며, 그 이후에는 아무것도 표시되지 않습니다. 아무것도 찾지 못한 것을 의미하는 것 같습니다.

1:

    • 역할: user

    • 이름: NeilEvans

    • 내용: Q03-DZN00-00000은 무엇인가요?

  • 스트림: true

도움 주시면 감사하겠습니다!

N

일부 진전을 본 것 같습니다. 의도한 페르소나를 사용하지 않고, "bot"이 활성화된 다른 페르소나로 기본값이 설정되어 있었습니다. 이제 다른 페르소나들의 "bot"을 꺼두었으니, 제가 원했던 페르소나가 사용되고 있습니다.

또한, 사용 중이던 페르소나에 사용자가 할당되어 있는 것이 문제인 것 같았습니다. 해당 사용자를 제거한 후 결과가 더 좋아지기 시작했고, 페르소나에 설정한 "활성화된 도구(Enabled Tools)"에 따라 다른 동작을 확인할 수 있었습니다.

조사를 계속해 보겠습니다…

좋습니다 - AI 봇(discourse-ai/ai-bot/conversations)에서는 제대로 작동하게 만들었습니다. 하지만 메인 검색 결과 옆에 표시되는 '검색 어시스턴트’를 사용하면 동일한 검색으로 아무것도 찾지 못합니다. 그런데 '대화 계속하기’를 클릭한 뒤 다시 시도해 달라고 요청하면, AI 봇과 똑같은 방식으로 제가 찾고 있는 내용을 찾습니다. 이것은 버그인가요, 아니면 제가 무언가를 잘못 설정한 건가요?

그것이 무슨 뜻인가요?

검색 시 표시되고 대화형 결과를 반환하는 Discovery 기능에 대해 검색이 포함된 페르소나(Persona)를 설정하려는 건가요?

저는 Bot, Read, Search가 활성화된 단일 페르소나를 사용하고 있습니다. 이 페르소나는 AI 봇 인터페이스에서 사용되며, 잘 작동합니다. 그러나 메인 사이트 검색을 사용하면 아무것도 찾지 못합니다. 메인 사이트 검색을 사용하면 오른쪽에 검색 어시스턴트가 팝업으로 나타납니다. "대화 계속하기"를 클릭하면 동일한 페르소나가 사용되고 있음을 확인할 수 있으며, 이때 "다시 시도"라고 요청하면 제가 찾는 내용을 찾습니다. 이게 말이 됩니까?

P.S. Bot와 Read만 활성화해도 동일한 결과가 나옵니다.

아, 여기서 Persona를 사용하면서 제대로 된 RAG가 실행되지 않는다는 뜻이군요:

맞죠?

이 기능은 AFAIK로 상호작용을 시작한 사용자를 전달하지 않기 때문에, 개인 콘텐츠와 함께 작동하지 않습니다.

어떻게 연결해야 하는지 얼마나 어려운지 한번 살펴보겠습니다.

1개의 좋아요

맞아요 - 제가 생각하기에 문제의 핵심입니다. 팔코님, 감사합니다! 정말 감사해요!!

1개의 좋아요

방금 수정했습니다. 사이트를 업데이트한 후 다시 시도해 주세요.

1개의 좋아요

훌륭해요! 이제 일관되게 작동하고 있네요. 정말 감사합니다!

대담하게 말해도 될까요? 관심을 갖고 계실 때 기능 요청 하나 드려도 될까요? :wink:

1개의 좋아요

새 토픽으로만 하면 돼요 :wink:

4개의 좋아요

이 주제는 47시간 후 자동으로 닫혔습니다. 새로운 답변은 더 이상 허용되지 않습니다.