ウェブクローラーの質問

こんにちは、

Discourse サーバーに対して、HTTP リクエストがウェブクローラーであることを特定する方法はありますか?理由は、ウェブサイトが無限スクロールなどの要素を使用しているため、クローラーからのリクエスト時にページの表示が異なるかどうか疑問に思ったからです。どうぞよろしくお願いいたします。

特別なクローラービューを取得するには、User-Agent ヘッダーに bot という文字列を含めることができます。