Você precisa limpar o setor de inicialização para que a entrada do Ubuntu seja eliminada. Siga as instruções aqui
No prompt de comando do Windows
Bootrec.exe /FixMbr
Bootrec.exe /FixBoot
Nota: o Bootrec.exe está localizado em C: \ Windows \ system32
Uma vez feito isso, reinicie o computador e instale o Ubuntu usando o USB ao vivo.