User-agent: lfc-discourse-public-crawler

robots.txt는 단지 정중한 제안일 뿐입니다. 그 자체로는 아무것도 막지 못합니다. 하지만 사용자 에이전트가 해당 규칙을 따른다면, 그 봇이 악의적이지 않다는 신호로 볼 수 있습니다.

이러한 작업은 nginx 레벨에서 수행해야 합니다 :man_shrugging:

2개의 좋아요