Hostinginizin phpmail fonksiyonu kapalı demek. Bundan dolayı smtp mail kullanmanız gerekiyor.
Bkz: http://www.***.net/mybb/1294612-mybb-smtp-mail-ayarlari.html