Bot MegaIndex fez cerca de 4.000 pageviews em um dia

Atualização: 13/08/2022

O bot visitou nosso site novamente em 04/08/2022 (site do crawler)

Relatório: Pageviews Consolidadas

Relatório: User Agents do Web Crawler

Relatório: Principal Fonte de Tráfego

Claramente, permitir que o bot MegaIndex.ru/2.0 indexe o site não parece estar gerando tráfego para o site.
Nota: Pelo que sei, yandex.ru é diferente de Megaindex.ru.


Para bloquear crawlers, existe o robots.txt que, como observado

https://<Discoruse site>/admin/customize/robots

mas nem todos os crawlers respeitarão o robots.txt. :slightly_frowning_face:


Como observado acima por IAmGav, existem outras configurações de crawler.

4 curtidas