제한된 카테고리에서 임베딩?

경험칙으로, AI는 최소한 읽기가 everybody(모두)보다 어렵다면 볼 수 없고 조작도 할 수 없다고 합니다. 하지만 언급 가능한 AI 페르소나가 해당 범주를 볼 수 있는 그룹의 멤버라면 이 주장은 성립하지 않습니다.

그렇다면 임베딩(embeddings)은 어떻게 되나요? 범주가 모든 사용자에게 표시되지 않더라도 임베딩이 생성되나요?

제가 실제로 해결하려고 하는 문제는 모든 게시물이 AI를 위해 의도적으로 작성된(정확한 표현이 기억이 안 나는데… 큐레이션된?) 범주입니다. 즉, 해당 게시물은 ‘실제’ 주제의 사본이지만 1:1로 동일하지는 않습니다.

비밀은 없지만 구글봇(Googlebot)은 차단하고 싶습니다. 또한 이러한 콘텐츠는 사용자 친화적이지도 않습니다.

물론 특수 태그를 붙여 사용자에게 음소거(mute) 처리할 수 있습니다. 또는/그리고 전체 범주를 음소거 처리할 수도 있습니다. 이렇게 하면 대부분의 사용자는 접근하지 못하지만, 카테고리 내비게이션 바에 음소거된 범주도 표시되는 것 같습니다. 제가 완전히 잘못 기억하고 있을 수도 있지만요. 하지만 음소거만으로는 구글을 차단할 수 없습니다.

해당 주제 세트에서 임베딩을 차단함으로써 해결하고자 하는 문제는 무엇인가요?

제 경험상, 게시글들, 특히 해당 주제가 길 경우… 어떻게 표현해야 할지… GPT에 의해 다르게 처리되는 것 같습니다. 마치 OP(첫 번째 글 작성자)가 더 중요하게 여겨지는 것처럼요. 제 의도를 이해하시나요? 그리고 저는 거기에 존재할 모든 노이즈를 제거하고 싶습니다. 그렇게 하면 더 정확한 Q&A 콘텐츠와 더 나은 컨텍스트, 그리고 더 정확한 답변을 얻을 수 있습니다. 물론 주요 문제는 제 프롬프트(시스템 및 사용자)이거나 OpenAI 자체일 수도 있습니다. 하지만 제 주제들은 여기처럼, 혹은 일반적으로 개발/코딩 커뮤니티에서처럼 그렇게 직선적이고 흑백이 아닙니다.

물론 임베딩, RAG, 심지어 GPT가 어떻게 작동하는지, 그리고 무엇을 기대할 수 있는지에 대한 중요한 기본 이해가 부족할 수 있습니다. 하지만 그렇게 하면 동일한 프롬프트를 일반 주제에 적용했을 때보다 훨씬 더 나은 답변을 얻었습니다.

기본적으로 주제의 중요한 내용을 하나의 게시글로 된 새로운 주제로 축소하는 것입니다.

그러니까 이건 AI 봇의 검색 기능에 관한 이야기인가요?

아니요, 완전히 그렇지는 않습니다. 일부는 그렇습니다. 순수 검색에도 도움이 됩니다.

AI 검색의 경우, 키워드 기반 검색과 동일한 가시성 검사를 적용합니다. 따라서 해당 토픽이 키워드 검색으로 반환될 수 있다면, AI 검색에서도 반환될 수 있습니다.

일반 검색은 테스트해 보지 않았지만, 해당 카테고리를 사용할 수 있는 **언급 가능(mentionable)**한 봇이 그 그룹에 있으면 AI 검색은 분명히 찾아냅니다. 그렇지 않으면 찾을 수 없습니다.

하지만 ai embeddings model이 그런 카테고리에서 데이터베이스 항목을 생성할 수 있을까요?

네, 모든 주제에 대한 임베딩을 생성할 수 있습니다.