大家好,新年快乐 :))
据我所知,用户是为了不被 Google 或任何搜索结果索引而创建的。但是,我已经从 admin/customize/robots 中删除了 /u,这样就足够了吗,还是需要进行更多更改?另外,如果有人好奇我正在做什么,我想让我的社区用户个人资料被搜索引擎索引。
大家好,新年快乐 :))
据我所知,用户是为了不被 Google 或任何搜索结果索引而创建的。但是,我已经从 admin/customize/robots 中删除了 /u,这样就足够了吗,还是需要进行更多更改?另外,如果有人好奇我正在做什么,我想让我的社区用户个人资料被搜索引擎索引。
我也有同样的问题
我在照片中发现了该选项
然后我修改了 robots.txt
# 阻止侵略性的第三方爬虫
User-agent: mauibot
Disallow: /
User-agent: semrushbot
Disallow: /
User-agent: ahrefsbot
Disallow: /
User-agent: blexbot
Disallow: /
User-agent: seo spider
Disallow: /
# 所有爬虫的通用规则
User-agent: *
Disallow: /admin/
Disallow: /auth/
Disallow: /email/
Disallow: /session
Disallow: /user-api-key
Disallow: /badges
Disallow: /my
Disallow: /search
Disallow: /g
# 阻止低价值页面
Disallow: /u/ # 用户个人资料
Disallow: /tag/ # 标签索引
Disallow: /*.json # JSON API 响应
# 阻止 feed(对索引无用)
Disallow: /t/*/*.rss
Disallow: /c/*.rss
# 允许 Googlebot(与上述规则相同)
User-agent: Googlebot
Disallow: /admin/
Disallow: /auth/
Disallow: /email/
Disallow: /session
Disallow: /user-api-key
Disallow: /badges
Disallow: /my
Disallow: /search
Disallow: /g
Disallow: /u/
Disallow: /tag/
Disallow: /*.json
Disallow: /t/*/*.rss
Disallow: /c/*.rss
# 指向站点地图
Sitemap: https://site.com/sitemap.xml