Desde que o seu disco rígido não suporte criptografia e você o use, não há como uma partição criptografada impedir uma simples reinstalação.
Portanto, você não deve ter problemas para inicializar através do USB e instalar o Ubuntu novamente. Talvez vá para o particionamento manual e remova todas as partições do disco durante a configuração, mas isso não deve ser necessário se você escolher guiado usando o disco inteiro.