Nach dem Durchführen von größeren Änderungen auf einer Webseite kommt es meist zu verstärkten Crawling-Aktivitäten durch Google. Betroffen davon sind vor allem bereits indexierte URLs.
Umfassende Änderungen, die Auswirkungen auf die gesamte Webseite haben, können einen Anstieg der Aktivitäten des Googlebots auslösen. Wenn zum Beispiel Seiten oder Ressourcen, die zuvor blockiert waren, für den Crawler freigegeben werden, kann das dazu führen, dass sich die Zahl der pro Tag vom Googlebot abgerufenen Seiten für einige Zeit stark erhöht.
In einem aktuellen Webmaster-Hangout erklärte John Müller, warum das passiert und warum vor allem bereits indexierte URLs erneut gecrawlt werden.
Google versucht, seinen Index so aktuell wie möglich zu halten. Erkennt der Googlebot, dass es signifikante Änderungen auf einer Webseite gibt, so wird versucht, die bekannten URLs so schnell wie möglich erneut zu crawlen, um diese Änderungen im Index zu berücksichtigen. Laut Müller gehören zu solchen Änderungen beispielsweise strukturierte Daten, Anpassungen an Canonicals und Redirects sowie Änderungen an den URLs.
Manchmal kann es jedoch auch unabhängig von größeren Änderungen zu einem plötzlichen Anstieg der Crawling-Aktivitäten kommen. Ein Zusammenhang mit durchgeführten Änderungen muss also nicht immer bestehen.
Je nachdem, wie Google den Wert und die Qualität einer Seite einschätzt, kann es kürzer oder länger dauern, bis sich Änderungen auf einer Webseite durch ein erneutes Crawlen und die Berücksichtigung im Index in den Suchergebnissen auswirken. Wartezeiten von mehreren Monaten bis zu einem halben Jahr sind möglich.
Titelbild: Google
Verwandte Beiträge
Google verwendet neuen Crawler für URL Inspection Tool und Rich Results Test
Google hat einen neuen Crawler eingeführt, der für das URL Inspection Tool und den Rich Results Test verwendet wird. Der Name: Google-InspectionTool. Dient das dem Schutz von Websites mit...
Google: Irrtümlich erzeugte irrelevante URLs schaden einer Website in der Suche nicht
Wenn es auf einer Website zum Erscheinen einer großen Anzahl nicht relevanter und nicht funktionierender URLs kommt, schadet das weder der Indexierung noch der Qualitätsbewertung durch Google.
Google: HTTP-Status 404 und 403 sind nicht geeignet zum Absenken der Crawl-Rate
Wer Google dazu bringen möchte, die Crawl-Rate für eine Website zu reduzieren, sollte dafür nicht die HTTP-Status 404 und 403 verwenden. Zum Absenken der Crawl-Rate gibt es andere Möglichkeiten.
