如果在 Web Crawler User Agents 选项卡中
我已经看到了机器人的名称,那么我是否需要在设置中输入完全相同的名称以确保该机器人被屏蔽,还是应该输入其他名称?
例如
MBCrawler/1.0 (https://monitorbacklinks.com/robot)
那么这里应该输入什么?
是输入 MBCrawler/1.0,还是整行内容,或者只要包含该机器人名称的任意单词即可?
//
2Q
顺便问一下,你们是否真的在屏蔽这些机器人?因为我看到了不同的观点。也许根本没必要担心任何机器人。
但如果是这样,为什么 Ahrefs 默认就被屏蔽了呢?这有什么目的?
