So verwenden Sie den robots.txt-Generator
- Geben Sie die Website-Adresse ein und passen Sie die Optionen nach Bedarf an.
- Führen Sie das Tool aus und überprüfen Sie seine Ergebnisse, Beweise und Einschränkungen.
- Kopieren oder laden Sie das Ergebnis herunter und vergleichen Sie es dann mit der tatsächlichen Website, den Quelldaten oder den Geschäftsunterlagen.
Versuchen Sie es mit einem konkreten Beispiel
Verwenden Sie https://www.ssevening.com mit /admin/ und /cart/ als unzulässigen Pfaden und überprüfen Sie dann die resultierende Datei.
So interpretieren Sie Ergebnisse
Generiert User-agent: * und einzelne Disallow-Zeilen. Eine leere Liste fügt keine Einschränkungen hinzu; / blockiert den gesamten Pfadraum. Überprüfen Sie dies in einer Testumgebung, bevor Sie die Root-Datei ersetzen, und prüfen Sie, ob die deklarierte Sitemap vorhanden ist.
Häufig gestellte Fragen
Was bedeutet ein leeres Disallow?
Ein leerer Wert bedeutet, dass für diese Gruppe von Crawlern keine Crawling-Einschränkungen bestehen.
Kann es zum Schutz von Backend-Admin-Panels verwendet werden?
Nein. Admin-Portale erfordern Authentifizierung und Zugriffskontrollen, während robots.txt öffentlich sichtbar ist.
Warum gibt es eine Sitemap-Zeile?
Es liefert Hinweise für öffentliche Sitemap-URLs; Stellen Sie sicher, dass die XML-Datei tatsächlich existiert.