Dies ist nun über die Site-Einstellungen möglich. Suchen Sie nach „crawler“, genauer gesagt nach „blocked crawler user agents“. Es gibt auch „allowed crawler user agents“, falls Sie sehr streng sein und alles außer einem bestimmten Crawler blockieren möchten.