Google crawling — должно ли это быть так медленно?

Я мигрировал на Discourse и новый домен примерно месяц назад. В моей карте сайта более 20 000 URL-адресов, но на данный момент проиндексировано менее 900?

Как человек с небольшим опытом в SEO, я считаю это тревожным сигналом. У нас пока около 350 000 просмотров страниц, так что трафик хороший, но практически ничего не поступает из поисковых систем. Очевидно, я обеспокоен тем, что без притока новых пользователей сообщество может начать терять участников.


Вот карты сайта. Я читал в интернете, что сообщение «Не удалось получить» на самом деле означает, что всё в порядке, и данные просто ждут обработки. Вы можете видеть мои попытки перезагрузить карты сайта несколько дней назад.

В любом случае, я просто пытаюсь понять, что является «нормальным». Стоит ли мне беспокоиться на данном этапе?

2 лайка

Как вы справились с переходом между доменами?

Перенаправляется ли какой-либо трафик со старого FQDN на новый?

2 лайка

Если у вас нет правильной 301-перенаправления на тот же контент на новом домене и/или вы не сообщили о миграции со старого домена на новый в Google Search Console, это вполне нормально. Однако, если ваши перенаправления настроены верно и о миграции было сообщено, это уже ненормально.

В большинстве случаев причина кроется именно в первом варианте: либо используется какое-то общее перенаправление, либо перенаправления вообще нет. Тогда Googlebot реагирует на это как на совершенно новый сайт — и им он и является.

Но не стоит забывать, что Googlebot не увеличивает свою активность просто из-за миграции. Он может получить дополнительный импульс только за счёт нового и свежего контента.

Меня просто удивляет, что при таком большом объёме трафика у вас такие низкие показатели.

1 лайк

Спасибо за быстрый ответ, @Stephen и @Jagster.

Миграция была с ProBoards, поэтому, к сожалению, перенаправления нет. С точки зрения Google это по сути новый сайт, как уже упоминалось. Что касается контента, то с момента миграции у нас появилось около 160 новых тем и 4 тысячи сообщений — не уверен, считается ли это значимым.

1 лайк

Правильно, значит, Google воспринимает ваш сайт как совершенно новый.

Краулер выделяет ресурсы в зависимости от воспринимаемой поисковой ценности сайта. У новых сайтов меньше краулинговый бюджет, и первые проходы занимают гораздо больше времени.

Как только в индексе накопится много материалов, а Google увидит, что пользователи переходят по ссылкам из результатов поиска, этот бюджет увеличится.

Терпение!

4 лайка

Получается замкнутый круг, который всех раздражает: нас нужно кликать, чтобы проиндексировать, но чтобы нас кликали, нужно сначала проиндексировать :upside_down_face:

Спасибо за ваш взгляд на ситуацию. По крайней мере, мы движемся в правильном направлении.

3 лайка

Учтите, что у Google также ограничены ресурсы краулинга: они будут сосредоточены на частом обходе сайтов с высоким трафиком, регулярном — сайтов со средним трафиком и эпизодическом — небольших сайтов. Нет смысла повторно проверять сайт на наличие обновлений, если на нём не происходит регулярных изменений и его никто не посещает.

1 лайк