Änderungen an der robots.txt wirken sich nicht sofort in der Suche aus, denn Google hält die robots.txt bis zu einem Tag im Cache. Doch es gibt eine Möglichkeit, dies zu beschleunigen.

Wer Änderungen an der robots.txt seiner Website vornimmt, um zum Beispiel blockierte Seiten oder Ressourcen für Google freizugeben, muss damit rechnen, dass die Änderungen sich nicht sofort auswirken. Der Grund: Google hält die robots.txt bis zu einem Tag im Cache. Das erklärte Gary Illyes per Twitter. Er wies aber auch auf die Möglichkeit hin, dies zu beschleunigen und Google dazu zu bringen, den Cache zu aktualisieren. Dies kann per Google Search Console geschehen:

In der Google Search Console muss man dazu den robots.txt-Tester aufrufen, den es nur in der alten Version der Search Console gibt. Dort kann man auf "Senden" klicken und wird dann aufgefordert, die robots.txt zu ändern, sie auf den Server hochzuladen und Google danach zu informieren, damit die neue robots.txt abgerufen werden kann:

Auf diese Weise kann die Wartezeit bis zu den Wirkungen von Änderungen in der robots.txt verkürzt werden.

Titelbild: Copyright Patrick Daxenbichler - Fotolia.com

Verwandte Beiträge

Google: Auch Links auf Seiten, die per robots.txt gesperrt sind, zählen

Google wertet auch Links auf Seiten, die per robots.txt gesperrt, also auf 'disallow' gesetzt sind. Allerdings sind die Möglichkeiten, diese Links auf der Ziel-Website weiterzuverarbeiten, begrenzt.

Bing bringt neues Tool zum Testen der robots.txt

Bing hat ein neues Tool zum Testen von robots.txt-Dateien herausgebracht. Mit dem Tool lassen sich auch Änderungen vornehmen und die Auswirkungen der Änderungen überprüfen.

Google kann HTTP-Status 404 oder 410 bei Sperrung per robots.txt nicht erkennen

Wer Seiten per 404 oder 410 aus dem Google-Index entfernen möchte und die betreffenden URLs gleichzeitig per robots.txt sperrt, kann lange warten, denn Google kann den HTTP-Status von gesperrten...