Google: schlechtes Zeichen, wenn per robots.txt gesperrte Seiten für normale Suchanfragen erscheinen

Normalerweise tauchen Seiten, die per robots.txt gesperrt sind, für normale Suchanfragen nicht in den Suchergebnissen von Google auf. Passiert dies doch, sollte man sich Gedanken über die Qualität der wichtigen Seiten machen.

Google kann Seiten, die per robots.txt gesperrt sind, zwar nicht crawlen. Dennoch ist es möglich, dass betreffende URLs ohne Inhalt indexiert werden und damit in den Suchergebnissen erscheinen können - etwa dann, wenn es Links gibt, die auf diese Seiten zeigen. Normalerweise erscheinen solche Seiten aber nicht in den Suchergebnissen von Google. Ausnahme sind Site-Abfragen, mit denen gezielt nach bestimmten URLs gesucht wird.

Sucht zum Beispiel jemand nach einem Produkt, das auf einer Website angeboten wird, prüft Google nicht, ob es auf der Website auch andere Seiten gibt, die per robots.txt blockiert sind, weil es bereits gute Seiten auf der Website gibt, die Google crawlen und indexieren kann. Das erklärte John Müller in den Google Search Central SEO Office Hours vom 4. Februar.

Sollte Google dennoch per robots.txt gesperrte Seiten für normale Suchanfragen in den Ergebnissen anzeigen, etwa für Suchanfragen nach wichtigen Produkten eines Onlineshops, dann sei das ein mögliches Zeichen dafür, dass etwas mit den Inhalten der Seiten der Website nicht stimme, die eigentlich für diese Suchanfragen wichtig und relevant sind. Die Inhalte der betreffenden Seiten seien dann möglicherweise nicht ausreichend, um von Google als relevant für die Suchanfragen betrachtet zu werden, so Müller weiter.

Daher sollte man prüfen, ob Nutzerinnen und Nutzer per robots.txt gesperrte Seiten für normale Suchanfragen zu sehen bekommen. Ist das der Fall, sollte der Fokus auf möglichen inhaltlichen Problemen der für die Suchanfragen relevanten Seiten liegen.

Titelbild: Copyright Patrick Daxenbichler - Fotolia.com

Verwandte Beiträge

Google: Regelmäßiges Posten neuer Beiträge kann zu mittelmäßigen Inhalten führen und der Website schaden

John Müller von Google hat davor gewarnt, durch den selbst auferlegten Zwang zum regelmäßigen Posten von Blogbeiträgen mittelmäßige Inhalte zu schaffen. Auf Dauer könne darunter die gesamte Website...

Google erweitert Empfehlung zu Canonicals: Für syndizierte Inhalte sollten sie nicht verwendet werden

Google hat seine Empfehlungen für Canonicals erweitert. Für syndizierte Inhalte sind sie nicht geeignet. Stattdessen sollten die Inhalte auf 'noindex' gesetzt werden.

Google: Viele neue Seiten können auf einmal veröffentlicht werden - wenn die Qualität stimmt

Laut John Müller von Google ist es kein Problem, viele Seiten einer Website auf einmal online zu stellen und indexieren zu lassen, sofern die Seiten hochwertig sind.