rrit
(Ayke)
3월 4, 2022, 5:02오후
23
Google 문서에서 noindex에 대한 추가 정보:
Crawl Budget Management | Google Crawling Infrastructure | Crawling infrastructure | Google for Developers 를 참조하세요.
중복 콘텐츠 통합 . 중복된 URL 대신 고유한 콘텐츠에 크롤링을 집중하기 위해 중복 콘텐츠를 제거하세요.
색인화하지 않으려는 URL의 크롤링을 차단하세요. 일부 페이지는 사용자에게 중요할 수 있지만, 검색 결과에 표시되기를 원하지 않을 수 있습니다. 예를 들어, 링크된 페이지의 정보를 중복하는 무한 스크롤 페이지나 동일한 페이지의 정렬이 다른 버전 등이 있습니다. 첫 번째 항목에서 설명한 대로 통합할 수 없는 경우, 이러한 검색에 중요하지 않은 페이지를 robots.txt 또는 URL 매개변수 도구 (URL 매개변수로 도달하는 중복 콘텐츠의 경우)를 사용하여 차단하세요.
noindex를 사용하지 마세요. Google은 여전히 요청을 보내지만, noindex 태그를 발견하면 페이지를 제외하므로 크롤링 시간이 낭비됩니다. 다른 페이지를 위해 크롤링 예산을 일시적으로 재분배하기 위해 robots.txt를 사용하지 마세요. robots.txt는 Google이 아예 크롤링하지 않기를 원하는 페이지나 리소스를 차단하는 데 사용하세요. Google이 이미 사이트의 서빙 한도에 도달하지 않는 한, 이렇게 새로 확보된 크롤링 예산을 다른 페이지로 이동시키지 않습니다.
How to Specify a Canonical with rel="canonical" and Other Methods | Google Search Central | Documentation | Google for Developers 를 참조하세요.
How to Specify a Canonical with rel="canonical" and Other Methods | Google Search Central | Documentation | Google for Developers 를 참조하세요.
3개의 좋아요
j127
3월 8, 2022, 7:06오후
26
이 명령이 작동하지 않는 것 같습니다. 오늘 테스트를 위해 더 작은 Discourse 사이트를 업데이트하고 명령을 실행했지만, 여전히 noindex 헤더가 보입니다.
수정: 이 설정이 어떻게 작동하는지 정확히 모르겠지만, SiteSettings에서 해당 설정을 찾지 못했습니다. 적어도 브라우저 콘솔에서 프론트엔드(관리자)로는 보이지 않습니다:
var d = Discourse.SiteSettings;
document.body.innerHTML = `<pre>${JSON.stringify(d, null, 4)}</pre>`;
해당 설정은 noindex가 아니라 robots.txt 를 위한 것인 것 같습니다. 대부분의 Discourse 사이트에서는 이미 true가 아닐까요?
2개의 좋아요
Falco
(Falco)
3월 8, 2022, 7:27오후
27
아 죄송합니다. 올바른 것은 SiteSetting.allow_indexing_non_canonical_urls입니다. 원문에 수정했습니다.
3개의 좋아요
sam
(Sam Saffron)
3월 15, 2022, 10:33오후
30
해당 변경 사항 이후 발생한 문제를 계속 분석하던 중, 아래 링크에 명시된 대로 롤백하기로 결정했습니다.
main ← enable_indexing_canonical
merged 10:36PM - 15 Mar 22 UTC
We rolled out a change to disable canonical indexing.
The goal behind it was to… limit crawl budget by Google being spent
scanning non canonical topic links.
Since this change was applied we rolled out 2 fixes that made the change
no longer needed.
1. Topic RSS feeds are no longer followed, links in the RSS feeds are
not followed.
2. Post RSS feeds now contain canonical links.
Combined these two changes mean crawlers no longer discover a large
amount on non-canonical links on Discourse sites.
이 변경 사항의 목표는 구글 크롤러가 비정규(non-canonical) 토픽 링크를 스캔하는 데 크롤 버짓을 소모하는 것을 제한하는 것이었습니다.
해당 변경 사항이 적용된 후, 이 변경 사항을 더 이상 필요 없게 만드는 두 가지 수정 사항을 배포했습니다.
토픽 RSS 피드는 더 이상 추적되지 않으며, RSS 피드 내 링크도 추적되지 않습니다. 예: https://meta.discourse.org/t/search-engines-now-blocked-from-indexing-non-canonical-pages/218985.rss
게시글 RSS 피드에는 이제 정규(canonical) 링크가 포함됩니다. 예: https://meta.discourse.org/posts.rss
이 두 가지 변경 사항이 결합되면 크롤러가 Discourse 사이트에서 대량의 비정규 링크를 더 이상 발견하지 못하게 됩니다.
이로써 검색 버짓이 확보되고, 해당 사이트 설정이 더 이상 필수 요건이 아닙니다. 사이트 운영자는 여전히 이 설정을 실험해 볼 수 있지만, 기본적으로 비활성화되어 있습니다.
13개의 좋아요