Não, você não pode (mas na verdade você pode), supondo que você tenha feito um trabalho convencional de reformatar uma partição no seu HDD como ext4
e instalar o Ubuntu nisso. O Windows não reconhecerá esse formato (a menos que você tenha instalado algum software de terceiros, como estes ou estas e, portanto, você não verá em nenhum lugar do Windows para poder para deletar ou qualquer coisa.
Quanto à reinstalação, acho que você teria apenas a opção de remover a versão anterior instalada antes de poder instalar novamente na mesma partição, não deixando nenhuma chance de colisão por definição.
PS: para dar links provavelmente mais sensatos, tirados do já dado, (alguns dos) softwares de terceiros são Ext2Fsd , Linux Reader e Ext2Read .