Você não precisa remover o Ubuntu para instalar o Windows, durante a inicialização da instalação do Windows a partir do disco, você tem a opção de remover ou formatar partições e fazer uma nova instalação em seu lugar.
Se você não tem um disco de instalação do Windows, então é uma maneira de criar um instalador de unidade flash: link