Google notifica para remover declarações "noindex" do robots.txt

Olá,

Acabei de receber este e-mail do Google:

Remova as instruções “noindex” do robots.txt de

Isso é algo conhecido pela comunidade? Preciso tomar alguma providência?

Obrigado

Parece que o Google acabou de enviar isso; eu também recebi um e-mail.

Aqui também, postando para acompanhar opiniões, etc.

O mesmo e-mail, preciso lidar com isso sozinho? Como lidar com isso?

Não se preocupe, está codificado no núcleo; a equipe do Discourse fará a atualização e, em alguns dias, será corrigido. Não teremos nada a fazer além de atualizar nosso Discourse.

Mas, para os mais impacientes, você já pode editar o arquivo robots.txt:

O Google Search Console está me enviando mensagens sobre nosso site Discourse:

Remova as instruções ‘noindex’ do robots.txt de https://discourse.hookproductivity.com/

Ao proprietário de https://discourse.hookproductivity.com/,

O Google identificou que o arquivo robots.txt do seu site contém a regra não suportada ‘noindex’.

Essa regra nunca foi oficialmente suportada pelo Google e, em 1º de setembro de 2019, deixará de funcionar. Consulte nosso centro de ajuda para saber como bloquear páginas do índice do Google.

Se você não personalizou seu arquivo robots.txt, não precisará fazer nadadisallow já está fazendo a maior parte do trabalho.

Por padrão, o Discourse usa tanto disallow quanto noindex no robots.txt.

No post do blog sobre essa atualização, o Google sugere usar disallow, o que já fazemos. Usamos noindex adicionalmente para ajudar a evitar esse problema de link mencionado pelo Google (adicionei ênfase à parte relevante)…

Disallow no robots.txt: Os mecanismos de busca só podem indexar páginas das quais têm conhecimento, então bloquear o acesso à página geralmente significa que seu conteúdo não será indexado. Embora o mecanismo de busca também possa indexar uma URL com base em links de outras páginas, sem ver o conteúdo em si, nosso objetivo é tornar essas páginas menos visíveis no futuro.

Do nosso lado, vamos avaliar uma atualização para adicionar a meta tag noindex ou usar o cabeçalho X-Robots-Tag em nossas respostas HTTP, para garantir que o Google não esteja indexando o link quando ele aparecer em outras páginas (atualizaremos este tópico com qualquer mudança).

Se você adicionou regras personalizadas de noindex ao robots.txt através da página de administração /admin/customize/robots, deve alterá-las para disallow.

A presença de noindex em robots.txt foi uma mudança de “SEO” mal aconselhada que infelizmente nos convencemos a fazer há cerca de um ano. Essa mudança foi agora revertida e o retorno foi portado para a versão estável.