Merhabalar, daha önce makalelerimi webmaster alanından google gibi getirden yapıyordum. Şimdi oradan indexlemeyi bıraktım fakat google botları siteme geldiği halde sayfam indexlenmiyor bu neden kaynaklanmaktadır ? robot.tx dosyamın içi şu şekildedir;
Sitemap: http://www . () . com/sitemap.xml
User-agent: *
Disallow: /cgi-bin/
Disallow: /wp-admin/
Disallow: /wp-content/
Disallow: /wp-includes/
Disallow: /comments/feed/
Disallow: /trackback/
Disallow: /feed
Disallow: /*.php$
Disallow: /*.js$
Disallow: /*.css$
Disallow: */feed/
Disallow: */trackback/
Disallow: /archive/t-*.html/
Disallow: /*?
Disallow: /page/*
Disallow: /memberlist.php*/
User-agent: NinjaBot
Allow: /
User-agent: Mediapartners-Google*
Allow: /
User-agent: Googlebot-Image
Allow: /wp-content/uploads/
Allow: /wp-content/gallery/
User-agent: Adsbot-Google
Allow: /
User-agent: Googlebot-Mobile
Allow: /