# robots.txt generated at http://www.mcanerin.com
User-agent: Googlebot
Disallow:
User-agent: googlebot-image
Disallow:
User-agent: googlebot-mobile
Disallow:
User-agent: MSNBot
Disallow:
User-agent: Slurp
Disallow:
User-agent: Teoma
Disallow:
User-agent: twiceler
Disallow:
User-agent: Gigabot
Disallow:
User-agent: psbot
Disallow:
User-agent: *
Disallow:
Disallow: /cgi-bin/
Disallow: */feed
Disallow: /wp-admin/
Disallow: */feed/
Disallow: /wp-content/
Sitemap: http://www.film-indir.us/sitemap.xml
Fakat şöyle sorunla karşılaşıyorum.Robots.txt de kısıtlanmamasına rağmen bu urller kısıtlı görünüyor. /feed hariç çünkü onu ben kısıtladım