sudo dpkg -r openjdk-7-jdk
sudo apt-get remove --purge openjdk-7-jdk
sudo apt-get autoremove
sudo apt-get clean
sudo apt-get update
e, finalmente, você está pronto para instalar o pacote como se fosse um novo sem nenhum histórico final da instalação.