MihirR
(Mihir)
1 Gennaio 2025, 9:29pm
1
Ciao a tutti, buon anno :))
Per quanto ne so, gli utenti non sono indicizzati su Google o su altri motori di ricerca. Tuttavia, ho rimosso /u da admin/customize/robots, quindi è sufficiente o ci sono altre modifiche da fare? Inoltre, se qualcuno è curioso di sapere cosa sto cercando di fare, è che mi piacerebbe che i profili degli utenti della mia community fossero indicizzati sui motori di ricerca.
hameedacpa
(Abdelhamid)
4 Settembre 2025, 6:57am
3
Ho scoperto l’opzione come nella foto
poi ho modificato il robots.txt
# Blocca crawler aggressivi di terze parti
User-agent: mauibot
Disallow: /
User-agent: semrushbot
Disallow: /
User-agent: ahrefsbot
Disallow: /
User-agent: blexbot
Disallow: /
User-agent: seo spider
Disallow: /
# Regole generali per tutti i crawler
User-agent: *
Disallow: /admin/
Disallow: /auth/
Disallow: /email/
Disallow: /session
Disallow: /user-api-key
Disallow: /badges
Disallow: /my
Disallow: /search
Disallow: /g
# Blocca pagine di basso valore
Disallow: /u/ # profili utente
Disallow: /tag/ # indici di tag
Disallow: /*.json # risposte API JSON
# Blocca feed (non utili per l'indicizzazione)
Disallow: /t/*/*.rss
Disallow: /c/*.rss
# Consenti Googlebot (stesse regole di cui sopra)
User-agent: Googlebot
Disallow: /admin/
Disallow: /auth/
Disallow: /email/
Disallow: /session
Disallow: /user-api-key
Disallow: /badges
Disallow: /my
Disallow: /search
Disallow: /g
Disallow: /u/
Disallow: /tag/
Disallow: /*.json
Disallow: /t/*/*.rss
Disallow: /c/*.rss
# Punta alla sitemap
Sitemap: https://site.com/sitemap.xml