Indizierung von Benutzerprofilen

Unterstützung
1

Hallo zusammen, frohes neues Jahr :))

Soweit ich weiß, sind die Benutzer nicht dafür gedacht, in Google oder anderen Suchergebnissen indiziert zu werden. Ich habe jedoch /u aus admin/customize/robots entfernt. Ist das ausreichend oder gibt es noch weitere Änderungen vorzunehmen? Wenn sich jemand fragt, was ich versuche, möchte ich, dass die Benutzerprofile meiner Community in Suchmaschinen indiziert werden.

2

Ich habe die gleiche Frage

3

Ich habe die Option wie auf dem Foto entdeckt

image
image2198×764 66.2 KB

dann habe ich die robots.txt geändert

# Block aggressive third-party crawlers

User-agent: mauibot
Disallow: /

User-agent: semrushbot
Disallow: /

User-agent: ahrefsbot
Disallow: /

User-agent: blexbot
Disallow: /

User-agent: seo spider
Disallow: /

# General rules for all crawlers

User-agent: *
Disallow: /admin/
Disallow: /auth/
Disallow: /email/
Disallow: /session
Disallow: /user-api-key
Disallow: /badges
Disallow: /my
Disallow: /search
Disallow: /g

# Block low-value pages

Disallow: /u/          # user profiles
Disallow: /tag/        # tag indexes
Disallow: /*.json      # JSON API responses

# Block feeds (not useful for indexing)

Disallow: /t/*/*.rss
Disallow: /c/*.rss

# Allow Googlebot (same rules as above)

User-agent: Googlebot
Disallow: /admin/
Disallow: /auth/
Disallow: /email/
Disallow: /session
Disallow: /user-api-key
Disallow: /badges
Disallow: /my
Disallow: /search
Disallow: /g
Disallow: /u/
Disallow: /tag/
Disallow: /*.json
Disallow: /t/*/*.rss
Disallow: /c/*.rss

# Point to sitemap

Sitemap: https://site.com/sitemap.xml