Eran Küçük açıklama için teşekkürler. Birçok kişiye de yardımcı olacaktır "Disallow" etiketinin linkleri arama motorundan çıkardığı. Ancak benim sorunum bundan kaynaklanmıyor. Yaşadığım sorun sitenin kodlarından, içeriğinden, vb. bir durum değil. Ya Google kafasına göre takılıyor, ya linkler bir şekilde düşürülüyor. Başka bir mantık yürütemiyorum.
Diyelim ki bir konu açıyorsunuz. Bu konu Google da bir tek sizde var. Başlığı da atıyorum "Apiluskus Mucizesi" olsun. Tam bir sayfa özgün içerikle tanıtıyorsunuz ve linki ekliyorsunuz. Yazı Google'a düşüyor ama akşam link kontrolü yaptığınızda kalktığını görüyorsunuz. Arama motorunun görevi arayana istediği sonucu getirmektir. Bir tek siz de olan bir yazı neden Google'dan çıkarılır anlam veremedim. Robot.txt Disallow olsa tüm linkler çıkar. Benim günlük 10-15 tane paylaştığım yazının 3-5 tanesi yok oluyor. İşin yoksa tespit edip tekrar ekle. Bu büyük sıkıntı yaratıyor.