Discourse Meta
如何防止机器人爬取我的 Discourse 实例?
支持
codinghorror
(Jeff Atwood)
2019 年1 月 19 日 11:21
4
在站点设置中搜索“crawler”。
使用“屏蔽的爬虫用户代理”和“允许的爬虫用户代理”站点设置。
在话题中显示帖子
相关话题
话题
回复
浏览量
活动
Private discourse and crawling, can it happen?
Support
seo
4
543
2023 年3 月 13 日
Can't login after removing all bot user agents from site setting
Support
5
975
2017 年11 月 24 日
MegaIndex bot did about 4,000 pageviews on one day
Community Building
40
5030
2023 年12 月 2 日
What can crawlers see?
Data & reporting
16
998
2024 年2 月 5 日
Seeing anonymous user and crawler traffic, even though site is private
Data & reporting
3
1015
2021 年9 月 9 日