クローラーの数が非常に多い?

誰がアクセスしているか確認できます:

/admin/reports/web_crawlers

ここで追加できます:

admin/site_settings/category/all_results?filter=crawler user agents