Readiness-Check · Bereich Aktivieren · Gewichtung 5
robots.txt veröffentlicht
/robots.txt liefert eine Klartextdatei zurück.
- Beobachtet auf
- 79%
- Top-1K-Websites
- 76%
- Top-1M-Gruppe
- 81%
- Nicht gemessen
- 10,885
von 175,171 gemessenen Websites
240 gemessen
90,782 gemessen
blockiert, durch eine Sicherheitsabfrage eingeschränkt oder nicht anwendbar
Warum das wichtig ist
In robots.txt suchen Crawler zuerst nach Crawling-Regeln und Sitemap-Adressen. Ohne diese Datei gehen sie davon aus, dass alles zugänglich ist.
So beheben Sie das Problem
Veröffentlichen Sie /robots.txt mit den benötigten Crawling-Regeln und einer Sitemap:-Zeile, die auf Ihre XML-Sitemap verweist.
So prüfen wir
/robots.txt liefert eine Klartextdatei zurück.
Festgestellt: robots.txt gefunden.
Nicht festgestellt: Keine robots.txt gefunden.
Einschränkung: Nur der Standardpfad wurde zum Zeitpunkt der Prüfung einmal abgerufen.
Nach Popularitätsgruppe
| Chrome UX Report-Bereich | Beobachtet | Gemessen |
|---|---|---|
| Top 1.000 | 76% | 240 |
| Top 5.000 | 75% | 1,628 |
| Top 10.000 | 75% | 2,419 |
| Top 50.000 | 74% | 17,917 |
| Top 100.000 | 76% | 15,669 |
| Top 500.000 | 78% | 46,516 |
| Top 1 Mio. | 81% | 90,782 |
Kategorien, in denen dies am wahrscheinlichsten ist
Kategorien, in denen dies am wenigsten wahrscheinlich ist
Nach Technologie-Stack
- PrestaShop on Cloudflare>99%
- BigCommerce>99%
- WordPress on Fastly99%
- Drupal on Cloudflare98%
- Drupal on Fastly98%
- Next.js on Fastly98%
- Tilda98%
- Next.js on Netlify98%
- Wix98%
- PrestaShop97%
- WordPress on Cloudflare97%
- Sitecore on Azure Front Door/CDN97%
- Squarespace97%
- Drupal97%
- Magento / Adobe Commerce on Cloudflare97%
- Drupal on Amazon CloudFront97%
- Bitrix97%
- WordPress on Google edge96%
- WordPress on Vercel96%
- Drupal on Akamai96%
- Astro on Cloudflare96%
- WordPress96%
- Sitecore on Cloudflare96%
- Gatsby on Amazon CloudFront95%
- Shopify95%
- Adobe Experience Manager on Cloudflare95%
- WordPress on Amazon CloudFront95%
- HubSpot CMS95%
- Next.js on Akamai95%
- WordPress on Sucuri95%
- Adobe Experience Manager on Akamai94%
- Angular on Cloudflare94%
- Magento / Adobe Commerce94%
- Sitecore94%
- Next.js on Azure Front Door/CDN94%
- Adobe Experience Manager on Amazon CloudFront94%
- Adobe Experience Manager93%
- Next.js on Cloudflare93%
- Astro93%
- Angular on Amazon CloudFront92%
- Next.js on Amazon CloudFront92%
- Joomla91%
- Next.js on Vercel91%
- Next.js on Google edge91%
- Angular91%
- Webflow90%
- Next.js90%
- WordPress on Imperva89%
- Astro on Amazon CloudFront89%
- Nuxt on Google edge89%
- Nuxt on Cloudflare87%
- Blogger87%
- Gatsby86%
- Nuxt86%
- Nuxt on Amazon CloudFront85%
- GoDaddy Website Builder83%
Nach Anbieter
- Bunny CDN93%
- Cloudflare92%
- Akamai91%
- Fastly89%
- Google edge88%
- Azure Front Door/CDN87%
- Amazon CloudFront86%
- Sucuri85%
- Netlify83%
- Vercel81%
- Alibaba Cloud CDN72%
- Imperva70%
Beliebte Websites, auf denen wir dies beobachtet haben
Quellen und Leitfäden
Leitfaden: Robots.txt-Leitfaden: Crawling steuern, ohne Fehler zu verbergenPrüfen Sie Ihre eigene Website