SEO-News

GoogleplexEs gibt verschiedene Meldungen darüber, dass Google das Crawlen mancher Websites seit dem 11. November deutlich reduziert haben soll. Vermutet wird ein Zusammenhang mit 304-Redirects. Andere Stichproben zeigen dagegen keine Auffälligkeiten.

Damit Google neue und geänderte Inhalte entdecken und indexieren kann, ist das Crawlen von Websites unverzichtbar. Gerade bei großen Websites mit vielen URLs und vielen Änderungen kann es daher problematisch werden, wenn Google die Crawling-Rate reduziert. Und genau das könnte seit einigen Tagen der Fall sein. Dafür sprechen verschiedene Meldungen in sozialen Netzwerken.

So schreibt zum Beispiel Nutzer Olivier, einer der Gründer des Tools Seolyzer, auf Twitter, Google habe seine Crawl-Rate seit dem 11. November drastisch reduziert:

 

Seolyzer: Hat Google das Crawlen seit dem 11. November reduziert?

 

Manche vermuten einen Zusammenhang zwischen Aufrufen, die vom Server mit dem HTTP-Status 304 beantwortet werden, und dem Absenken der Crawling-Rate. Der Status 304 steht für "Not Modified" und kann dann gesendet werden, wenn sich das abgerufene Dokument seit dem letzten Abruf nicht geändert hat. Dazu werden Datum und Uhrzeit verwendet, die im HTTP Header im Feld "If-Modified-Since" angegeben sind. Das entsprechende Dokument wird dann nicht vom Server an den Client gesendet.

John Müller von Google hatte bereits im Jahr 2018 erklärt, dass sich der Status 304 nicht auf die Crawl-Rate auswirkt. In der offiziellen Google-Dokumentation steht zu lesen, dass der Status 304 keine Auswirkungen auf die Indexierung habe. Vom Crawlen steht dort allerdings nichts:

"Der Googlebot signalisiert der Indexierungspipeline, dass sich der Inhalt seit dem letzten Crawling nicht geändert hat. In der Indexierungspipeline werden Signale für die URL möglicherweise neu berechnet. Ansonsten hat der Statuscode keine Auswirkung auf die Indexierung."

Allerdings zeigt ein weiterer Tweet des oben genannten Nutzers, dass gerade für URLs mit Status 304 das Crawling im betrachteten Zeitraum deutlich gesunken ist:

 

Google: weniger Crawling von 304-Seiten?

 

John Müller äußerte auf Twitter eine andere Theorie. Wird die gesunkene Crawl-Rate durch Fake Googlebots verursacht, die auf einmal ihr Crawlen eingestellt haben, aus Sorge, entlarvt zu werden? Immerhin hatte Google zuletzt eine Liste der IP-Adressen veröffentlicht, die Google zum Crawlen verwendet, was die Verifizierung des Googlebots vereinfacht.

 

Google und reduziertes Crawlen durch Fake Googlebots?

 

Gegen diese Theorie spricht jedoch die Beobachtung eines Nutzers, der eine Reduzierung des Crawlens von eben diesen Google-IPs festgestellt hat:

 

Weniger crawlen von Google-IPs

 

Was auch immer der Grund für die beobachteten Änderungen sein mag: Von Google gibt es bisher keinerlei offizielle Bestätigung zu möglichen Crawling- oder Indexierungsproblemen.

Wie viele Abrufe der Googlebot für eine Website durchführt, kann man zum Beispiel in der Google Search Console im Bereich "Einstellungen" sehen. Und auch in den Logfiles des Webservers lassen sich die Aufrufen nachverfolgen.

Bei einigen stichprobenartigen Kontrollen für verschiedene Websites in der Google Search Console zeigten sich zumindest keinerlei Besonderheiten, welche für einen Rückgang des Crawlens sprechen. Teilweise gab es sogar eine deutliche Zunahme des Crawlens zum 11. November.

 


Christian Kunz

Von Christian Kunz

SEO-Experte.
Sie benötigen Beratung für Ihre Webseite? Klicken Sie hier


Anzeige

SEO-Vergleich


Verwandte Beiträge

SEO-Newsletter bestellen

Im monatlichen SEO-Newsletter erhaltet Ihr eine Übersicht der jeweils zehn wichtigsten SEO-Meldungen des Monats. Mit dem SEO-Newsletter bleibt Ihr auf dem Laufenden.
Ich bin mit den Nutzungsbedingungen einverstanden

Anzeigen

OSG

 

Senior SEO

 

Anzeige

rnkeffect

Premium-Partner (Anzeige)


Anzeigen

sedo

SEO Agentur aus Darmstadt

SEO-Vergleich

Online Solutions Group




Sprecher auf

Onsite-Optimierung

Onsite-Optimierung

 

SEO- und Suchmaschinenblogs

SEO-FAQ

Bild © FM2 - Fotolia.com

Bekannt aus

Website Boosting


Internet World Business

SEO United


The SEM Post


Webselling

SEO selber machen

SEO selber machen

Jetzt vernetzen

SEO-Glossar

SEO-Glossar

 

SEO im Ohr, der Podcast von SEO Südwest: aktuell Folge

SEO-Beratung

Wir bringen gemeinsam Ihre Webseite in Google nach vorne. Profitieren Sie von jahrelanger SEO-Erfahrung.

Social Networks und RSS-Feed

Auszeichnungen

seo19 sieger sichtbarkeit 2020 200x200px