URLs, die in der robots.txt per 'disallow' gesperrt sind, haben keine Auswirkungen auf das von Google gewährte Crawl-Budget für eine Website.
Gute Nachricht für alle diejenigen, die sich Sorgen um ihr Crawl-Budget machen: Für URLs in der robots.txt, die auf "disallow" gesetzt sind, gibt es keine Abzüge. Das hat Gary Illyes von Google jetzt per Twitter mitgeteilt. Er erklärte, der entsprechende Blog-Post "What Crawl Budget Means for Googlebot" sei erweitert worden:
Neu hinzugekommen ist das folgende Frage-Antwort-Paar (Ãœbersetzung Red.):
Frage: Beeinträchtigen URLs, die ich disallowed habe, das Crawl-Budget in irgendeiner Weise?
Antwort: Nein, Disallow-URLs beeinträchtigen nicht das Crawl-Budget.
Das Thema Crawl-Budget wird jedoch ohnehin meist überbewertet. Bei kleinen und mittelgroßen Websites mit einigen Tausend Unterseiten hat Google überhaupt keine Probleme, die Inalte zu crawlen. Interessant wird dies erst bei sehr großen Websites, auf denen es eine Million oder mehr Unterseiten gibt. Hier kann es durchaus sinnvoll sein, sich über die Verteilung des Crawl-Budgets Gedanken zu machen und beispielsweise per robots.txt Einfluss auf den Abruf der Seiten durch den Googlebot zu nehmen.
Artikelveröffentlichungen auf starken Magazinen und Blogs
Wir kooperieren mit unzähligen Verlagen und Bloggern und können daher auf über 4000 Blogs zu fast allen Themengebieten Artikelplätze anbieten:
- - Nachhaltiger Linkaufbau, kein SEO-Netzwerk
- - Hohe Sichtbarkeitswerte, keine expired Domains
- - Einmalzahlung, keine Vertragsbindung
Für jede Artikelveröffentlichung erstellen wir hochwertigen Content mit mindestens 400 Wörtern und publizieren den Artikel mit einem DoFollow-Bachlink zu deiner Seite auf einem Magazin oder Blog deiner Wahl.
Verwandte Beiträge
Änderungen an der Infrastruktur können Frequenz und Geschwindigkeit des Crawlens beeinflussen
Änderungen an der Server-Infrastruktur wie zum Beispiel der Wechsel von IP-Adressen oder der Umzug auf leistungsfähigere Server können die Häufigkeit und die Geschwindigkeit des Crawlens durch...
Google crawlt bei Website-Updates manche Seiten in Tagen, manche erst in Monaten
Wenn eine Website einem kompletten Update unterzogen wird, dann crawlt Google die wichtigsten Seiten zuerst und das innerhalb weniger Tage. Andere Seiten können dagegen erst nach Monaten gecrawlt...
Google: Wenn das Crawlen den Webserver auslastet, ist nicht der Googlebot schuld
Wenn das Crawlen einer Website die Ressourcen des Webservers auslastet, dann ist die Verantwortung laut Google auf der Website zu suchen und nicht beim Googlebot.
