Wenn Google bereits gefundene 404-Seiten erneut besucht, geht das nicht zu Lasten des Crawl-Budgets. Das liegt an der Reihenfolge, die Google beim Crawlen einhält.

Ab und zu besucht Google Seiten erneut, die früher einen 404-Status zurückgeliefert haben. Damit will Google testen, ob die Seiten inzwischen wieder verfügbar sind. Die Sorge, dass solche Besuche zu Lasten des Crawl-Budgets gehen könnten, sind jedoch unbegründet. Google priorisiert nämlich die zu besuchenden URLs einer Webseite und ruft alte 404-Seiten zum Schluss auf, und zwar nur dann, wenn noch Crawl-Budget übrig ist.

Das hat Johannes Müller in einem aktuellen Tweet erläutert:

Wenn Google also tatsächlich alte 404-Seiten erneut besucht, ist das ein gutes Zeichen und deutet darauf hin, dass das bestehende Crawl-Budget einer Webseite noch nicht ausgeschöpft wurde.

Wer sich Sorgen ums Crawl-Budget macht, sollte insbesondere die folgenden Faktoren im Auge behalten:

• Facettierte Navigation mit vielen ähnlichen URLs sowie Session-URLs
• Soft-404er
• Duplicate Content
• Spam, gehackte Inhalte
• Infinite Spaces: Ansammlungen von URLs ohne Mehrwert.

Verwandte Beiträge

Google: Wechsel des CDN und der Infrastruktur können temporär zu weniger Crawling führen

Veränderungen der Website-Infrastruktur wie zum Beispiel ein Wechsel des CDNs können zu einem zeitweisen, aber deutlichen Rückgang des Crawlens durch Google führen.

Google: Wann Seiten, die Aktionen ausführen, gecrawlt und indexiert werden dürfen

Google rät dazu, Seiten, die bestimmte Aktionen ausführen, wie zum Beispiel das Hinzufügen zu einem Warenkorb, nicht crawlen zu lassen. Diese Empfehlung kann zu Missverständnissen führen.

Google crawlt auch URLs, die per JavaScript erzeugt werden

Google crawlt auch per JavaScript erzeugte URLs. Das kann unter Umständen zu einer großen Anzahl zu crawlender URLs führen.