Indexação de perfis de usuário

Suporte
1

Olá a todos, feliz ano novo :))

Pelo que sei, os usuários não são feitos para serem indexados no Google ou em qualquer resultado de pesquisa. No entanto, removi /u de admin/customize/robots, então isso é suficiente ou há mais mudanças a fazer? Além disso, se alguém estiver curioso sobre o que estou tentando fazer, é que adoraria que o perfil dos usuários da minha comunidade fosse indexado nos motores de busca.

2

Eu tenho a mesma pergunta

3

Descobri a opção como na foto

image
image2198×764 66.2 KB

então modifiquei o robots.txt

# Bloquear rastreadores agressivos de terceiros

User-agent: mauibot
Disallow: /

User-agent: semrushbot
Disallow: /

User-agent: ahrefsbot
Disallow: /

User-agent: blexbot
Disallow: /

User-agent: seo spider
Disallow: /

# Regras gerais para todos os rastreadores

User-agent: *
Disallow: /admin/
Disallow: /auth/
Disallow: /email/
Disallow: /session
Disallow: /user-api-key
Disallow: /badges
Disallow: /my
Disallow: /search
Disallow: /g

# Bloquear páginas de baixo valor

Disallow: /u/          # perfis de usuário
Disallow: /tag/        # índices de tags
Disallow: /*.json      # respostas da API JSON

# Bloquear feeds (não úteis para indexação)

Disallow: /t/*/*.rss
Disallow: /c/*.rss

# Permitir Googlebot (mesmas regras acima)

User-agent: Googlebot
Disallow: /admin/
Disallow: /auth/
Disallow: /email/
Disallow: /session
Disallow: /user-api-key
Disallow: /badges
Disallow: /my
Disallow: /search
Disallow: /g
Disallow: /u/
Disallow: /tag/
Disallow: /*.json
Disallow: /t/*/*.rss
Disallow: /c/*.rss

# Apontar para o sitemap

Sitemap: https://site.com/sitemap.xml