Crawler blockiert, Login auf eingeschränkten Seiten erforderlich

Auf meinem Forum gibt es Kategorien, die ein bestimmtes TL-Level zum Lesen erfordern.

Google versucht, diese zu crawlen und erhält einen Fehler. Sollten diese automatisch von robots.txt ausgeschlossen werden?

Woher hat Google die Links, erscheinen diese Themen in einer Sitemap?

2 „Gefällt mir“

Hmm. Tolle Frage. Ich sehe, dass die kanonische URL für Threads die category_id nicht enthält und daher nicht einfach gefiltert werden kann. Angenommen, sie ist nicht in den Sitemaps enthalten, wenn Google den Link woanders findet, gibt es keinen einfachen Block, es sei denn, Sie nehmen jede einzelne URL in robots auf, was kein sinnvoller Ansatz ist.

1 „Gefällt mir“

This topic was automatically closed 30 days after the last reply. New replies are no longer allowed.