Form adının 'form' olduğunu ve jquery'i yüklediğini varsayıyorum dostum;

$('form').submit(function () {
if($("#sex").is(":not(:checked)")){
alert('Cinsiyeti doldurunuz.');
return false;
}
});