Sendeki kodlar şöyle.
Açılan pencereyi standart sayfa yüksekliğinin yarısı boyutuna getiriyor. Ardından eğer içerik açılan pencere boyutundan daha yüksekse, içeriği pencere boyutuna göre küçültüyor. Böylelikle açılan pencerenin boyutu değişmeden içerik boyutunu ona göre ayarlayabiliyor.
CSS ile scrollbarlara sadece biçim bakımından müdahale edilebiliyor. Yükseklikler ise max min olarak değerlendirilebiliyor.
İçerik CSS ile boyutlandırılabilir ama scrollbar a müdahale edilemediğinden yapacağın en iyi şey ya o kodları silmek, ya da Javascript dosyası ile onları çağırmak.
Javascript ile çağırırsan katman elementlerinide seçmen gerekli. Nereye uygulanacağını belirtmek maksadıyla.
TB_overlay, TB_window, TB_hideselect ve TB_load için javascript dosyası hazırlamalısın yani.


<script>
function {
document.getElementById('TB_window').value=xx;
document.getElementById('TB_window').style.margin-top="(xx)/";
document.getElementById('xx').value=parseInt(this.offsetHeight/2)+(TBWindowMargin = document.documentElement && document.documentElement.scrollTop || document.body.scrollTop)+'px';
}
</script>

Böyle düşündüm ama inşallah doğru olur. Biraz karışık çünkü yanlış yapmışda olabilirim.