# robots.txt zu http://www.roberge.de/ User-agent: * # Crawlen aller URLs sperren, die mit 'index.htm?' beginnen Disallow: /index.htm? # folgende Dateitypen sollen nicht gecrawlt werden Disallow: /*.jpg$ Disallow: /*.gif$ Disallow: /*.png$ Disallow: /*.pdf$ Disallow: /*.inc$ # alle Verzeichnisse beginnend mit "_" Disallow: /_*/ # spezielle Verzeichnisse Disallow: /system/ Disallow: /Tourenbeschreibung/ Disallow: /fotoshow/ Disallow: /eCards/ Disallow: /xt_stats/ Disallow: /bilder/ Disallow: /fotos/ Disallow: /franz/ Disallow: /intern/ Disallow: /javascript/ Disallow: /musik/ Disallow: /pflanzen/ Disallow: /scripte/ Disallow: /statistik/ Disallow: /phpMyAdmin/ User-agent: Googlebot-Image Disallow: /