Eu garantiria que o Windows Vista x64 estivesse no Service Pack 2 porque você não pode instalar o IE9 com menos. Além disso, é possível que o Vista já tenha o IE 9 ... você verificou isso?
editado para adicionar
O arquivo% WinDir% \ WindowsUpdate.log também pode oferecer algumas dicas.