사용자 프로필 인덱싱

Hey everyone, happy new year :))

From what I know the users are made not to be indexed on Google or any search results. However, I have removed /u from admin/customize/robots so is that enough or there more changes to do, also if anyone is curious what I’m trying to do is that I would love my community users profile to be indexed on search engines.

저도 같은 질문이 있습니다

사진에서 보시는 것처럼 옵션을 찾았습니다.

그 후 robots.txt 파일을 수정했습니다.

# 공격적인 제3자 크롤러 차단

User-agent: mauibot
Disallow: /

User-agent: semrushbot
Disallow: /

User-agent: ahrefsbot
Disallow: /

User-agent: blexbot
Disallow: /

User-agent: seo spider
Disallow: /

# 모든 크롤러에 대한 일반 규칙

User-agent: \*
Disallow: /admin/
Disallow: /auth/
Disallow: /email/
Disallow: /session
Disallow: /user-api-key
Disallow: /badges
Disallow: /my
Disallow: /search
Disallow: /g

# 가치가 낮은 페이지 차단

Disallow: /u/          # 사용자 프로필
Disallow: /tag/        # 태그 인덱스
Disallow: /\*.json      # JSON API 응답

# 피드 차단 (인덱싱에 유용하지 않음)

Disallow: /t/*/*.rss
Disallow: /c/\*.rss

# Googlebot 허용 (위와 동일한 규칙 적용)

User-agent: Googlebot
Disallow: /admin/
Disallow: /auth/
Disallow: /email/
Disallow: /session
Disallow: /user-api-key
Disallow: /badges
Disallow: /my
Disallow: /search
Disallow: /g
Disallow: /u/
Disallow: /tag/
Disallow: /*.json
Disallow: /t/*/*.rss
Disallow: /c/*.rss

# 사이트맵 지정

Sitemap: https://site.com/sitemap.xml