A versão mais recente do Virtualbox, 3.0.6, funciona em 64 bits.
Geralmente, o erro 1603 envolve permissões de conta no sistema de destino, espaço livre em disco no sistema de destino ou download de arquivo incorreto ou arquivo bloqueado / inacessível.
Então, pergunta: Ao executar o instalador, você fez "Executar como administrador"?
Nota: Verifique o BIOS para garantir que sua CPU suporte o VT-x e que ele esteja ativado.