Donc, j’utilise Discourse comme forum pour un site web via un sous-domaine, et je remarque que Bing récupère chaque publication et chaque flux RSS de catégorie pour les indexer dans la section du sitemap du site.
Est-ce un comportement attendu ?
Devrais-je désactiver le flux RSS du forum pour empêcher cela ?
Y a-t-il un moyen de désactiver le flux dans Discourse ?
Non. Les flux RSS ont un en-tête noindex, que Bing est censé respecter. Voir
et
Il n’y a aucun moyen de le faire (sauf en rendant l’ensemble de votre site accessible uniquement après connexion, mais cela désactiverait tout le référencement).
Voyez-vous des pages RSS dans les résultats réels de la recherche Bing ? Ou uniquement dans leurs outils pour les webmasters ?
Existe-t-il un moyen de confirmer que le noindex apparaît dans le flux ? Je pose la question car je ne parviens même pas à trouver la balise noindex dans le code source du flux RSS. Par exemple, j’ai également ouvert ce fil de forum avec le fichier .rss, et dans le code source, je ne trouve pas non plus de noindex.
À ce jour, je ne vois les flux que dans les outils pour webmasters, dans la section Sitemap sous le groupe Flux.
Bien sûr. Cela suppose que vous utilisez Google Chrome, mais vous pouvez suivre un processus similaire dans d’autres navigateurs.
Ouvrez le panneau Outils de développement F12
Passez à l’onglet Réseau.
Chargez un flux RSS, par exemple ce sujet - https://meta.discourse.org/t/bing-is-picking-all-the-rss-feed-for-each-post-can-i-disable-the-feed-in-discourse/168025.rss
Sélectionnez l’entrée du flux RSS dans la liste.
Regardez les en-têtes de réponse dans l’onglet En-têtes, vous devriez voir x-robots-tag: noindex
Merci, je vois bien l’attribut x-robots-tag: noindex.
Je ne comprends toujours pas pourquoi Bing récupère le flux RSS alors qu’il porte la balise noindex.
Bonjour à tous ! Désolé pour tous ces désagréments. Je vais transférer ce fil de discussion aux autres membres de l’équipe Bing. Bing ne devrait pas indexer le flux RSS avec la balise meta noindex, il s’agit donc probablement d’un bug ou d’un problème d’exploration. Merci pour votre signalement !
Nous nous attendons à ce que cela soit corrigé dans quelques heures seulement. Je reviendrai ensuite sur ce fil de discussion pour publier une confirmation. Si nous rencontrons des problèmes, je discuterai de cela en message privé avec l’auteur du sujet (OP). Encore une fois, merci à tous.
@Frédéric m’a parlé de cet endroit et de ce qui s’y passe. Je prends la parole en son nom pendant qu’il s’occupe d’autre chose qui a malheureusement nécessité son attention.
Pour le moment, il semble que nous ayons compris le problème. Comme l’a dit Frédéric, j’ai envoyé un message privé à @mhwebee et je m’en occuperai personnellement à partir de maintenant. Si vous pouviez fermer le fil, ce serait génial !
Meilleures salutations de ma part et de celle des développeurs de Bing,