robots.txt padrão bloqueia imagens do Twitter Card

Por padrão, o arquivo robots.txt contém a seguinte entrada:

User-agent: *
# ...
Disallow: /u

Essa configuração bloqueia a imagem para os cartões do Twitter. A verificação do cartão de vários fóruns no validador do Twitter não exibe o logotipo e mostra o seguinte aviso:

A URL da imagem forum.[…].org/uploads/[…].png especificada pela meta tag ‘twitter:image’ pode estar restrita pelo arquivo robots.txt do site, o que impedirá que o Twitter a recupere.

O problema é que o caminho /uploads também começa com um u e, portanto, é correspondido pela regra do robots.txt.

Sei que o arquivo robots.txt pode ser sobrescrito, mas acho que seria bom alterar o padrão. Infelizmente, não entendo o código o suficiente para criar um pull request.

Ao sobrescrever, lembre-se de que o Twitter verifica o arquivo robots.txt com menos frequência do que o HTML real da página, então pode levar algumas horas para que a alteração seja detectada.

1 curtida

Encontrei o mesmo problema e publiquei aqui: https://meta.discourse.org/t/metatag-may-be-restricted-twitter-card-validator/181169

Existe uma correção rápida para tentar? Obrigado!

Sim, pelo menos isso faz os cards do Twitter funcionarem. Espero que não cause efeitos colaterais indesejados.

Você pode abrir a configuração “permitir indexação no robots.txt” e clicar em “substituir robots.txt”. Em seguida, localize a linha Disallow: /u e adicione uma barra no final, para que fique Disallow: /u/. O Twitter levará algumas horas para detectar a alteração.

2 curtidas

Não sei por que o post que linkei foi excluído. Vou tentar. Obrigado pela dica!

2 curtidas

Parece que este foi um problema no passado (veja esta discussão) e depois foi reintroduzido.

Neste commit, as regras de robots com barra foram removidas porque se acreditava que não eram mais necessárias. Mais tarde, neste commit, elas foram reintroduzidas, mas sem a barra no final.

Preparei um pull request rápido e simples que deve corrigir o arquivo robots.txt padrão: FIX: Do not block `uploads` path in robots.txt by ByteHamster · Pull Request #12349 · discourse/discourse · GitHub

1 curtida

O que você acha, @sam?

1 curtida

Não consigo realmente revisar o PR sem um CLA, mas ancorar e alterar /u/u/ parece razoável e seguro.

2 curtidas

Desculpe - o CLA já foi assinado :slight_smile:

Já integrei. Vamos tentar.

4 curtidas