Merhabalar arkadaşlar, bi sitede gezinirken buldum da, şimdi bu wordpress video siteleri için, kullanabiliceğimiz en doğru robots.txt hangisidir?
Bi sitede bu robots.txt dosyasının en iyisi olduğunu söylemişler.
User-agent: *
Disallow: /wp-admin/
Disallow: */comments/
Disallow: /wp-content/plugins/
Disallow: /wp-content/cache/
Disallow: /wp-content/themes/
Disallow: /wp-includes/
Disallow: /xmlrpc.php
Ne kadar doğru ne kadar yanlış bilmiyorum, uzman birileri var ise bilgi verebilir mi ?