こんにちは、
Discourse サーバーに対して、HTTP リクエストがウェブクローラーであることを特定する方法はありますか?理由は、ウェブサイトが無限スクロールなどの要素を使用しているため、クローラーからのリクエスト時にページの表示が異なるかどうか疑問に思ったからです。どうぞよろしくお願いいたします。
こんにちは、
Discourse サーバーに対して、HTTP リクエストがウェブクローラーであることを特定する方法はありますか?理由は、ウェブサイトが無限スクロールなどの要素を使用しているため、クローラーからのリクエスト時にページの表示が異なるかどうか疑問に思ったからです。どうぞよろしくお願いいたします。
特別なクローラービューを取得するには、User-Agent ヘッダーに bot という文字列を含めることができます。