여러분, 새해 복 많이 받으세요 :))
제가 아는 한, 사용자는 Google이나 기타 검색 결과에 인덱싱되지 않도록 설정되어 있습니다. 하지만 저는 admin/customize/robots에서 /u를 제거했는데, 이게 충분한지 아니면 추가로 해야 할 변경 사항이 더 있는지 궁금합니다. 또한 호기심이 있으신 분들을 위해, 제가 하고자 하는 것은 커뮤니티 사용자 프로필이 검색 엔진에 인덱싱되기를 원한다는 것입니다.
여러분, 새해 복 많이 받으세요 :))
제가 아는 한, 사용자는 Google이나 기타 검색 결과에 인덱싱되지 않도록 설정되어 있습니다. 하지만 저는 admin/customize/robots에서 /u를 제거했는데, 이게 충분한지 아니면 추가로 해야 할 변경 사항이 더 있는지 궁금합니다. 또한 호기심이 있으신 분들을 위해, 제가 하고자 하는 것은 커뮤니티 사용자 프로필이 검색 엔진에 인덱싱되기를 원한다는 것입니다.
저도 같은 질문이 있습니다
사진에서 보시는 것처럼 옵션을 찾았습니다.
그 후 robots.txt 파일을 수정했습니다.
# 공격적인 제3자 크롤러 차단
User-agent: mauibot
Disallow: /
User-agent: semrushbot
Disallow: /
User-agent: ahrefsbot
Disallow: /
User-agent: blexbot
Disallow: /
User-agent: seo spider
Disallow: /
# 모든 크롤러에 대한 일반 규칙
User-agent: \*
Disallow: /admin/
Disallow: /auth/
Disallow: /email/
Disallow: /session
Disallow: /user-api-key
Disallow: /badges
Disallow: /my
Disallow: /search
Disallow: /g
# 가치가 낮은 페이지 차단
Disallow: /u/ # 사용자 프로필
Disallow: /tag/ # 태그 인덱스
Disallow: /\*.json # JSON API 응답
# 피드 차단 (인덱싱에 유용하지 않음)
Disallow: /t/*/*.rss
Disallow: /c/\*.rss
# Googlebot 허용 (위와 동일한 규칙 적용)
User-agent: Googlebot
Disallow: /admin/
Disallow: /auth/
Disallow: /email/
Disallow: /session
Disallow: /user-api-key
Disallow: /badges
Disallow: /my
Disallow: /search
Disallow: /g
Disallow: /u/
Disallow: /tag/
Disallow: /*.json
Disallow: /t/*/*.rss
Disallow: /c/*.rss
# 사이트맵 지정
Sitemap: https://site.com/sitemap.xml