2018年から2020年にかけて、bingbotが非常に高いレートでクロールしていたというこのスレッドを見つけました。
当社のサイトでもこれを確認していますが、いつから問題になっているのかは不明です。
下のスクリーンショットでは、ランキングは以下の通りです。
- Bingbot
- Yandex
- Bingbot (モバイル)
- サイトモニター
- 画像ボット
GoogleはBingの10倍以上のトラフィックをもたらしていますが、クローラーのヒット数は約12%しか使用していません。
他に同様の統計を見ている方はいらっしゃいますか?
今のところ、bingbotをslow down crawler user agentsリストに追加しました。

