Bing está pegando todos os feeds rss para cada postagem, posso desabilitar o feed no Discourse

Então, estou usando o Discourse como fórum para um site em um subdomínio e notei que o Bing está capturando cada postagem e o RSS de categoria para indexação na seção de sitemap do site.

Esse é um comportamento esperado?
Devo desativar o feed RSS no fórum para evitar que isso aconteça?
Existe uma maneira de desativar o feed no Discourse?

Não. Os feeds RSS possuem um cabeçalho noindex, que o Bing deveria respeitar. Veja:

e

Não há como fazer isso (a não ser exigir login em todo o site — mas isso desativaria toda a indexação).

Você está vendo páginas RSS nos resultados reais de pesquisa do Bing? Ou apenas nas ferramentas para webmasters deles?

Existe alguma maneira de confirmar se o noindex aparece no feed? Pergunto porque nem consigo encontrar a tag noindex no código-fonte do RSS. Por exemplo, também abri este tópico do fórum com o arquivo .rss e, no código-fonte, não encontro o noindex.

Até agora, só consigo ver os feeds nas ferramentas para webmasters, na seção de sitemap, sob o agrupamento de feeds.

Obrigado,

Claro. Isso assume que você está usando o Google Chrome, mas pode seguir um processo semelhante em outros navegadores.

  1. Abra o painel de Ferramentas de Desenvolvedor F12
  2. Mude para a aba Rede.
  3. Carregue um feed RSS, por exemplo, este tópico - https://meta.discourse.org/t/bing-is-picking-all-the-rss-feed-for-each-post-can-i-disable-the-feed-in-discourse/168025.rss
  4. Selecione a entrada do feed RSS na lista.
  5. Verifique os cabeçalhos de resposta na aba Cabeçalhos; você deve ver x-robots-tag: noindex

Obrigado, vejo sim a tag x-robots-tag: noindex. Ainda não entendo por que o Bing vai indexar o RSS quando há essa tag de noindex.

Bem-vindo ao emocionante mundo do Bing!™

Gostaria de poder dizer que fiquei surpreso. Realmente, realmente gostaria.

Tentando alcançar o Google? :slightly_smiling_face:

Vou fingir que você não está sendo sarcástico. :stuck_out_tongue_closed_eyes:

Não, eles já fizeram isso, mas ainda têm muito o que alcançar no que diz respeito à indexação correta dos fóruns Discourse.

Olá a todos! Desculpem por todo o transtorno. Vou encaminhar este tópico para os outros membros da equipe do Bing. O Bing não deveria indexar o RSS com a meta tag noindex, então isso provavelmente é um bug ou um problema de rastreamento. Obrigado pelo relato!

Esperamos que isso seja corrigido em algumas horas. Em seguida, retornarei a este tópico e farei um post confirmando. Se enfrentarmos algum problema, levarei isso para uma mensagem privada com o autor original (OP). Mais uma vez, obrigado a todos.

@Frédéric me falou sobre este lugar e o que está acontecendo. Estou falando em nome dele enquanto ele lida com outra coisa que, infelizmente, precisou de sua atenção. :slight_smile:

No momento, parece que entendemos o problema. Como o Frédéric disse, enviei uma mensagem direta ao @mhwebee e vou tratar disso em particular daqui para frente. Se você puder fechar o tópico, seria ótimo!

Melhores cumprimentos de mim e dos desenvolvedores do Bing,

Jordi