MihirR
(Mihir)
01.Январь.2025 21:29:00
1
Всем привет, с Новым годом :))
Насколько я знаю, профили пользователей по умолчанию не индексируются Google и другими поисковиками. Однако я удалил /u из admin/customize/robots. Достаточно ли этого или нужно внести ещё какие-то изменения? Кстати, если кому интересно: я хочу, чтобы профили участников моего сообщества появлялись в результатах поиска.
hameedacpa
(Abdelhamid)
04.Сентябрь.2025 06:57:16
3
Я обнаружил опцию, как на фото
затем я изменил файл robots.txt
# Блокировка агрессивных сторонних краулеров
User-agent: mauibot
Disallow: /
User-agent: semrushbot
Disallow: /
User-agent: ahrefsbot
Disallow: /
User-agent: blexbot
Disallow: /
User-agent: seo spider
Disallow: /
# Общие правила для всех краулеров
User-agent: *
Disallow: /admin/
Disallow: /auth/
Disallow: /email/
Disallow: /session
Disallow: /user-api-key
Disallow: /badges
Disallow: /my
Disallow: /search
Disallow: /g
# Блокировка страниц с низкой ценностью
Disallow: /u/ # профили пользователей
Disallow: /tag/ # индексы тегов
Disallow: /\*.json # ответы JSON API
# Блокировка лент (не полезны для индексации)
Disallow: /t/*/*.rss
Disallow: /c/\*.rss
# Разрешение Googlebot (те же правила, что и выше)
User-agent: Googlebot
Disallow: /admin/
Disallow: /auth/
Disallow: /email/
Disallow: /session
Disallow: /user-api-key
Disallow: /badges
Disallow: /my
Disallow: /search
Disallow: /g
Disallow: /u/
Disallow: /tag/
Disallow: /*.json
Disallow: /t/*/*.rss
Disallow: /c/*.rss
# Указание на карту сайта
Sitemap: https://site.com/sitemap.xml