##################################################################################################### # # Dies ist die robots.txt-Datei und soll den Suchmaschinen # Zugriff auf bestimmte Verzeichnisse verwehren # # Datum: 05.11.2009 # Autor: Oliver Kraetzig - www.agint.de ##################################################################################################### # # zugehoerige Website: www.boxline.de # Pfad: http://www.boxline.de/robots.txt User-agent: * Disallow: cleardoc.asp Disallow: pdf.asp Disallow: /admin/ Disallow: /Archiv/ Disallow: /dokumente/ Disallow: /images/ Disallow: /includes/ Disallow: /newsletter/ Disallow: /pics/ Disallow: /yaml/ User-agent: Googlebot Sitemap: http://www.boxline.de/sitemap.xml Sitemap: http://www.boxline.de/video_mega-pack-s_sitemap.xml