Desativar ou contornar a detecção de recursos para o Googlebot (ao servir o aplicativo JS para rastreadores)

Fico feliz que você perguntou, sim, acho que é o motivo da minha “penalidade leve” do Google

Permita-me elaborar.

Tivemos uma atualização de site muito desleixada por volta de setembro/outubro de 2019, o site principal despencou naquele momento.

Nunca nos recuperamos. O site nunca esteve melhor em termos de SEO. Claro, não é perfeito, mas estamos a anos-luz de alguns concorrentes. Sites que usam nossas imagens e textos de muitos anos nos superam em páginas. Estamos na 3ª e eles talvez estejam no topo da 2ª página.

Já passei por inúmeros blogs, vídeos, posts de SEO e até tive algumas trocas com John Mueller (no Reddit).

O máximo que consegui dele foi que poderiam ser “problemas de qualidade”. Melhoramos drasticamente o site principal desde 1º de janeiro deste ano. Nem um pingo no tráfego orgânico.

Discourse: Instalei em 2013 e esqueci. Mal verificava seu tráfego.

Se você olhar as análises do site principal, verá uma queda acentuada no final do gráfico. Foi quando comecei a trabalhar no Discourse.

Ao tentar o prerender.io no discourse, a classificação do site principal ficava uma bagunça. Às vezes, subindo 10-15 posições durante a noite, depois voltando. (Desde então parei o prerender, pois eles não conseguiam renderizar o menu principal, login, etc.)

Pelo que li online, isso é um sinal de que o Google não sabe onde te colocar. Dizem que falta só um “pouquinho” e você está do lado bom do algoritmo.

Nada do que fizemos nos últimos 3 anos desencadeou essas flutuações nos SERPs.

(Mexendo na ferramenta de desautorização do Google, limpando código, URLs limpas, estrutura do site, links internos, social, conteúdo, etc.)

Você pode argumentar, por que o Google não me penalizou em 2018? (você já tinha o discourse no subdomínio então também)

Bem, acho que foi uma multiplicidade de fatores únicos do site, sua história, perfil de links. que o fizeram despencar no final de 2019. Parece que o Google reorganizou a classificação do site e talvez tenha dado mais peso aos URLs do discourse do que anteriormente.

E o detalhe é… eu amo o Discourse. Especialmente agora que tenho passado mais tempo no meta, todos esses plugins e recursos legais que eu nem imaginava que existiam. Wiki, pagamentos por assinatura, índice, e agora o chat!!

Então, sair do discourse não é realmente uma opção, muito investido neste ponto.

Considerei isso e estou disposto a arriscar. Sei que não será perfeito, mas pelo que li e assisti, o Google se tornou muito bom em entender JS ultimamente.

Eles até descontinuaram o esquema de rastreamento ajax

Os tempos mudaram. Hoje, desde que você não esteja bloqueando o Googlebot de rastrear seus arquivos JavaScript ou CSS, geralmente somos capazes de renderizar e entender suas páginas da web como navegadores modernos.

Nota lateral: O Discourse tem uma configuração para rastreamento ajax - acho que isso tem que acabar eventualmente.


Então o plano é servir o aplicativo para o Google, fazer o meu melhor para corrigir quaisquer problemas de SEO que possam surgir e aproveitar o pico de tráfego.

Posso então relatar os resultados no meta e defender que o Discourse considere otimizar o JS para o Google.

Por exemplo, talvez algo como isso (do blog do Google) ajude com as preocupações de paginação e rolagem.

E manter a versão não-crawler para navegadores antigos.