Eu tive esse problema muitas vezes até que encontrei o sistema perfeito. A primeira coisa a notar é a causa deste problema. O Linux usa um sistema de arquivos diferente quando você o instala, como o ext4.
O que eu faço é ter uma cópia do ubcd. (CD de inicialização final). É gratuito e você pode baixá-lo da internet para gravar em CD ou USB.
Você entra no gerenciador de partições e usa o drive nuke. O que isso faz é limpar tudo da sua unidade completamente. Seria como se você tivesse acabado de sair da prateleira. Agora lembre-se que esse nuke levará algumas horas dependendo do tamanho do disco.
Assim que estiver pronto, você poderá reinstalar as janelas na máquina.