크롤러가 너무 많나요?

값이 너무 높은 것 같습니다. 뭔가 잘못되었나요?

누가 크롤러인지 확인할 수 있습니다:

/admin/reports/web_crawlers

그리고 여기에 추가하세요:

admin/site_settings/category/all_results?filter=crawler user agents

최근 Google이 robots.txt 동작 방식을 변경하면서 크롤링 규칙 관련 변동이 많았기 때문에, 이는 정상적인 현상일 수 있습니다.

네, 정말 감사합니다.

데이터에 표시된 경우를 제외하고, 무단 크롤러가 존재합니다. 사이트 설정에서 이를 차단하세요.