مرحبًا، في منتدانا لدينا عدد كبير جدًا من الزوار الآليين (Crawlers)، حيث يتراوح متوسط العدد بين 81 ألفًا و90 ألفًا! هل قد يتسبب ذلك في أي مشاكل؟ وإذا كان الأمر كذلك، فكيف يمكنني منع الزوار الآليين الضارة من الزحف؟
لقد قمت بإدراج معرفات المستخدم (User Agents) للزوار الآليين المحظورة على النحو التالي:
mauibot
semrushbot
ahrefsbot
blexbot
SEO spider
كما قمت بإبطاء الزوار الآليين التالية معرفات المستخدم الخاصة بها:
يمكنك رؤية الأرقام المفصلة على أساس كل زحف إذا قمت بزيارة
your.site.com/admin/reports/web_crawlers
إذا لاحظت وجود زحف غير عادي يسلك سلوكًا خاطئًا، يمكنك إضافة سلسلة فريدة من وكيل المستخدم الخاص به إلى إعداد blacklisted_crawler_user_agents وسيتم حظره.