Sto vedendo questo
e mi stavo chiedendo cosa sono i crawler?
I crawler sarebbero cose come Google Search che automatizzano il “crawling” del tuo sito web per i contenuti in modo che Google Search possa presentare il tuo sito quando lo cerchi.
Ci sono anche altri crawler oltre a quello di Google.
Dovresti dare un’occhiata a questo post (e al link in esso contenuto) per maggiori informazioni: Better pageview metrics with the new site traffic report
Per una comprensione più semplice, i crawler sono bot che esplorano le pagine online e seguono i link per esplorare ancora più pagine. Utilizzati principalmente dai motori di ricerca per creare l’indice, esistono altri crawler online, ad esempio la Wayback Machine, ecc.
La maggior parte di esse sono in realtĂ societĂ SEO e AI, non motori di ricerca o altri attori utili. E la parte X di questi bot di ricerca sono in realtĂ scraper che cercano debolezze e rubano contenuti.
Comunque, sul mio forum e sui miei siti.
tipico, la gente cerca sempre di rubare il lavoro altrui.