Cómo lidiar con un alto tráfico "Otro" repentino en los análisis del sitio?

He tenido problemas en julio con muchísimas solicitudes de Singapur. Bloqueé un rango de IP, lo que funcionó durante un tiempo, pero el problema volvió con más fuerza en agosto (desde Singapur, Hong Kong y México) con un coste de CDN alto e inesperado :face_with_steam_from_nose:

Noté muchas visitas de Amazonbot, DataForSeoBot, meta-externalagent, SeekportBot, etc…

Esta documentación Controlling Web Crawlers For a Site dice:

Esta lista no contiene algunos de mis bots más visitantes, pero aun así tengo una pregunta.
¿Sería recomendable añadir toda esta lista a la configuración de Agentes de usuario de rastreadores bloqueados?
¿Hay alguna forma de añadir nombres de bots en bloque desde un archivo .txt?

1 me gusta