Die chinesische Suchmaschine setzt sein einigen Tagen einen neuen Crawler ein, der in der Lage ist, auch das CSS, JavaScript und die Bilder von Webseiten zu erfassen und damit die Darstellung der Seite zu prüfen.

Der neue Baidu-Crawler wurde bereits einige Tage getestet - laut einem Bericht auf Merkle begannen die Tests am 23. März. Ähnlich wie Google auch wird Baidu damit in der Lage sein, die Darstellung der gecrawlten Webseiten zu prüfen, weil das dort enthaltene JavaScript und CSS ausgeführt werden können.

Der Crawler wird durch folgende User Agents gekennzeichnet:

Desktop

Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

Mobil

Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

Laut Baidu kann es durch den Einsatz des neuen Crawlers zu einer gestiegenen Last auf den Servern der Webseiten kommen. Webmastern wird aber empfohlen, den Crawler nicht zu blockieren.

Es wird erwartet, dass sich in den ersten Tagen nach dem Einsatz des neuen Crawlers stärkere Bewegungen in den Rankings von Baidu einstellen werden.

Titelbild "Baidu Tasse" © bfishadow

(Attribution 2.0 Generic (CC BY 2.0) creativecommons.org/licenses/by/2.0/)

Verwandte Beiträge

Google will JavaScript-Webseiten schneller rendern

Google arbeitet laut eigener Aussage daran, die Zeitspanne zwischen dem Crawlen und dem Rendern von JavaScript-Webseiten zu verkürzen. 

Google: Cache-Version zeigt nur statisches HTML und kein gerendertes JavaScript

Die von Google gecachten Seiten in den Suchergebnissen zeigen nur statisches HTML an, nicht jedoch gerendertes JavaScript. Für Webseiten, die komplett auf JavaScript basieren, ist diese Ansicht also...

Google: Strukturierte Daten am besten direkt in den HTML-Code einfügen

Das Einfügen strukturierter Daten per JavaScript kann dazu führen, dass Google die Daten erst später erkennt und verarbeitet.