но неясно, к какому выводу привела эта дискуссия. Директива noindex в robots.txt больше не эффективна — Google теперь её игнорирует. Чтобы полностью предотвратить появление частного сайта в результатах поиска, директивы Disallow недостаточно. Необходимо использовать мета-тег noindex на каждой затронутой странице. В нашем случае это страница входа и любые страницы ошибок, доступные извне (или, в принципе, можно просто добавить мета-тег noindex на каждую страницу).
Да, Google прекратил поддержку директивы noindex в файле robots.txt. Однако их текущая рекомендация заключается в размещении мета-тега noindex на всех страницах, которые вы хотите полностью исключить из своего индекса. Именно этого я и пытаюсь добиться.
Я не занимался много тематической работой, поэтому эта информация была мне именно тем, что нужно. Спасибо! И всё отображается в head правильно (добавлено в “head_tag”). Для справки: рекомендуемый Google тег, если вы хотите запретить индексацию всем роботам, выглядит так:
<meta name="robots" content="noindex">
Теперь я полностью отключил (точнее, закомментировал) robots.txt по причинам, указанным ранее в этой теме. Ещё раз спасибо.
Рад, что смог помочь! Я сам ещё не очень хорошо разбираюсь в темах и ничего не знаю о SEO, поэтому не представлял, как именно должен выглядеть мета-тег. Приятно, что я смог направить вас достаточно близко к решению проблемы.