How to block all crawlers but Google's

About 1/3 of our traffic is from crawlers (about 250K last month). Is there a way to block these but allow Google’s crawlers?

4 إعجابات

أصبح هذا ممكنًا الآن عبر إعدادات الموقع، ابحث عن “crawler”، وتحديدًا blocked crawler user agents. يوجد أيضًا allowed crawler user agents إذا كنت ترغب في أن تكون صارمًا للغاية وعدم السماح بأي شيء باستثناء crawler محدد.

12 إعجابًا