A primeira solução que vejo é redimensionar sua partição do Ubuntu para preencher o espaço deixado pelo Windows. Você pode fazer isso com um LiveCD / LiveUSB do Gparted. Consistiria em apagar as partições do Windows primeiro, depois expandir a sua partição do Ubuntu.
Se você quiser prosseguir com uma instalação limpa, você terá que apagar todas as suas partições com o instalador do ubuntu, e então executar uma instalação limpa.
Naturalmente, o primeiro passo é criar uma mídia inicializável apropriada. Este parece ser o seu principal problema aqui. Você poderia usar o Unetbootin para fazer isso. Sua interface é bastante amigável, você não deve ter nenhum problema com isso.
Quando você tiver sua unidade USB inicializável, reinicie o computador e acesse sua BIOS para selecioná-la como a mídia de inicialização. Geralmente há um menu de inicialização, mas dependendo do seu computador, ele pode ser acionado pressionando F2, F8, F12, Escape ou delete durante o início da inicialização.