Então, estou usando o Discourse como fórum para um site em um subdomínio e notei que o Bing está capturando cada postagem e o RSS de categoria para indexação na seção de sitemap do site.
Esse é um comportamento esperado?
Devo desativar o feed RSS no fórum para evitar que isso aconteça?
Existe uma maneira de desativar o feed no Discourse?
Existe alguma maneira de confirmar se o noindex aparece no feed? Pergunto porque nem consigo encontrar a tag noindex no código-fonte do RSS. Por exemplo, também abri este tópico do fórum com o arquivo .rss e, no código-fonte, não encontro o noindex.
Até agora, só consigo ver os feeds nas ferramentas para webmasters, na seção de sitemap, sob o agrupamento de feeds.
Claro. Isso assume que você está usando o Google Chrome, mas pode seguir um processo semelhante em outros navegadores.
Abra o painel de Ferramentas de Desenvolvedor F12
Mude para a aba Rede.
Carregue um feed RSS, por exemplo, este tópico - https://meta.discourse.org/t/bing-is-picking-all-the-rss-feed-for-each-post-can-i-disable-the-feed-in-discourse/168025.rss
Selecione a entrada do feed RSS na lista.
Verifique os cabeçalhos de resposta na aba Cabeçalhos; você deve ver x-robots-tag: noindex
Olá a todos! Desculpem por todo o transtorno. Vou encaminhar este tópico para os outros membros da equipe do Bing. O Bing não deveria indexar o RSS com a meta tag noindex, então isso provavelmente é um bug ou um problema de rastreamento. Obrigado pelo relato!
Esperamos que isso seja corrigido em algumas horas. Em seguida, retornarei a este tópico e farei um post confirmando. Se enfrentarmos algum problema, levarei isso para uma mensagem privada com o autor original (OP). Mais uma vez, obrigado a todos.
@Frédéric me falou sobre este lugar e o que está acontecendo. Estou falando em nome dele enquanto ele lida com outra coisa que, infelizmente, precisou de sua atenção.
No momento, parece que entendemos o problema. Como o Frédéric disse, enviei uma mensagem direta ao @mhwebee e vou tratar disso em particular daqui para frente. Se você puder fechar o tópico, seria ótimo!
Melhores cumprimentos de mim e dos desenvolvedores do Bing,