SEO-News

CrawlerDurch die Verwendung des "noindex"-Attributs können keine Einsparungen für das Crawl-Budget erzielt werden. Wichtig für das Verständnis ist vor allem, zwischen Crawlen und Indexieren zu unterscheiden.

 Nur weil man bestimmte Seiten mit dem "noindex"-Attribut versieht, heißt das nicht, dass Google anstelle dieser Seiten andere, zusätzliche Seiten crawlen würde. Das hat Johannes Müller in einer Nachricht auf Twitter bestätigt. Ein Nutzer hatte zuvor gefragt, ob "noindex" Crawl-Budget sparen würde. Die klare Antwort Müllers: "Nein".

 

Johannes Müller: Crawl-Budget und noindex

 

Denkt man einmal über den Crawling-Vorgang nach, ist die Antwort auch sofort nachvollziehbar, denn damit der Crawler erkennen kann, dass eine Seite nicht indexiert werden soll, muss er diese erst einmal besuchen. Dieser Vorgang geht also schon zu Lasten des Crawl-Budgets.

Anders würde es aussehen, wenn eine Seite oder ein ganzer Bereich per robots.txt gesperrt würde: Dann würden die entsprechenden Seiten erst gar nicht vom Crawler besucht und auch nicht indexiert werden. Allerdings kann das nachträgliche Sperren bereits indexierter Seiten per robots.txt dazu führen, dass Google diese im Index belässt, jedoch keine Description mehr für die Seiten anzeigt.

Als Faustregel kann man sich folgendes merken:

  • noindex-Attribut: Steuerung der Indexierung
  • robots.txt: Steuerung des Crawlens

 

Titelbild © AKS - Fotolia.com

 


Christian Kunz

Von Christian Kunz

SEO-Experte.
Sie benötigen Beratung für Ihre Webseite? Klicken Sie hier


Anzeige

SEO-Vergleich


Verwandte Beiträge

Anzeige

rnkeffect

Premium-Partner (Anzeige)


Anzeigen

sedo

SEO Agentur aus Darmstadt

SEO-Vergleich

Online Solutions Group




Sprecher auf

Onsite-Optimierung

Onsite-Optimierung

 

SEO- und Suchmaschinenblogs

SEO-FAQ

Bild © FM2 - Fotolia.com

Bekannt aus

Website Boosting


Internet World Business

SEO United


The SEM Post


Webselling

SEO selber machen

SEO selber machen

Jetzt vernetzen

SEO-Glossar

SEO-Glossar

 

SEO im Ohr, der Podcast von SEO Südwest: aktuell Folge

SEO-Beratung

Wir bringen gemeinsam Ihre Webseite in Google nach vorne. Profitieren Sie von jahrelanger SEO-Erfahrung.

Social Networks und RSS-Feed

Auszeichnungen

seo19 sieger sichtbarkeit 2020 200x200px