1.) Se você já instalou o OpenJDK (ou no Ubuntu geralmente ele já está instalado). Remova-o executando este comando:
sudo apt-get purge openjdk*
2.) Então:
sudo add-apt-repository ppa:webupd8team/java
Em seguida, atualize:
sudo apt-get update
3.) Selecione qual versão você quer Para instalar o Oracle Java 8:
sudo apt-get install oracle-java8-installer
Para instalar o Oracle Java 7:
sudo apt-get install oracle-java7-installer
Para instalar o Java 6:
sudo apt-get install oracle-java6-installer