クローラーマニア - 何があった?

そこで何が起こったのか、詳しく見てみましょうか?

ウェブクローラーレポート(/admin/reports/web_crawlers)では、あなたのサイトをクロールしているボットの詳細情報を確認できます。

そこで確認後、blocked crawler user agents サイト設定に特定のクローラーを追加することで、それらをブロックできます。この設定は、ユーザーエージェント文字列に含まれる大文字小文字を区別しない単語を受け付けます。例えば、rogerbot ユーザーエージェントをブロックするには、設定に rogerbot を追加してください。

「いいね!」 4

ありがとうございます

アクセスのほとんどは、デンマーク王立図書館の「デンマーク型ネットアーカイブ」からのものでした

これは妥当ですね :slight_smile:

https://en.statsbiblioteket.dk/national-library-division/netarchive

この取り組みをブロックしたくありません…

「いいね!」 3

This topic was automatically closed 30 days after the last reply. New replies are no longer allowed.