SEO-News

GoogleGoogle wird den Support für einige Regeln in der robots.txt zum 1. September einstellen. Dazu gehört auch die Verwendung von 'noindex'.

Gestern hatte Google bekannt gegeben, sich für die Etablierung des Robots Exclusion Protocols (REP) als Internet-Standard einzusetzen. Heute gibt es von Google weitere Informationen zum Vorhaben. So sollen zukünftig einige Regeln in der robots.txt nicht mehr unterstützt werden. Man habe sich die Verwendung verschiedener Regeln angesehen und eine geringe Verbreitung festgestellt. Regeln wie crawl-delay, nofollow oder noidex würden nur in 0,001 Prozent aller robots.txt-Dateien im Internet verwendet. Diese Regeln seien auch nie von Google dokumentiert worden.

Daher soll der Support für diese Regeln zum 1. September eingestellt werden. Als Alternativen bieten sich die folgenden Optionen an:

  • noindex in den Meta Robots-Tags oder im X-Robots-Tag im HTTP-Header
  • 404- oder 410-Status-Codes: Beide zeigen an, dass eine Seite nicht zur Verfügung steht, und führen zum Entfernen der betreffenden URLs aus dem Index, wenn sie erneut gecrawlt werden
  • Passwort-Schutz: Solange kein Markup verwendet wird, um Inhalte zu kennzeichnen, die nur per Abonnement oder hinter einer Paywall verfügbar sind, werden die betreffenden Seiten aus dem Google-Index entfernt
  • Disallow in der robots.txt: Inhalte von Seiten, die per disallow blockiert sind, werden nicht gecrawlt und nicht indexiert. Die URLs können jedoch dann indexiert werden, wenn sie verlinkt sind. Allerdings wird Google sie dann in den Suchergebnissen kaum anzeigen.
  • Entfernen per URL Removal Tool in der Search Console: Damit lassen sich URLs übergangsweise aus den Suchergebnissen ausblenden.

 


Christian Kunz

Von Christian Kunz

SEO-Experte.
Sie benötigen Beratung für Ihre Webseite? Klicken Sie hier


Anzeige

SEO-Vergleich


Verwandte Beiträge

SEO-Newsletter bestellen

Im monatlichen SEO-Newsletter erhaltet Ihr eine Übersicht der jeweils zehn wichtigsten SEO-Meldungen des Monats. Mit dem SEO-Newsletter bleibt Ihr auf dem Laufenden.
Ich bin mit den Nutzungsbedingungen einverstanden

Anzeige

rnkeffect

Premium-Partner (Anzeige)


Anzeigen

sedo

SEO Agentur aus Darmstadt

SEO-Vergleich

Online Solutions Group




Sprecher auf

Onsite-Optimierung

Onsite-Optimierung

 

SEO- und Suchmaschinenblogs

SEO-FAQ

Bild © FM2 - Fotolia.com

Bekannt aus

Website Boosting


Internet World Business

SEO United


The SEM Post


Webselling

SEO selber machen

SEO selber machen

Jetzt vernetzen

SEO-Glossar

SEO-Glossar

 

SEO im Ohr, der Podcast von SEO Südwest: aktuell Folge

SEO-Beratung

Wir bringen gemeinsam Ihre Webseite in Google nach vorne. Profitieren Sie von jahrelanger SEO-Erfahrung.

Social Networks und RSS-Feed

Auszeichnungen

seo19 sieger sichtbarkeit 2020 200x200px