Instale o Oracle / Sun Java. Veja Como posso instalar o Sun JDK 6/7/8 ou o JRE da Sun / Oracle? (e outros) para detalhes.
Em uma sessão de terminal, execute: sudo update-alternatives --config java
Você receberá uma lista parecida com esta:
De acordo com as instruções no prompt, insira o número correspondente à versão que você deseja que seja a implementação Java padrão do seu sistema.
Depois de fazer isso, a menos que haja definições de configuração que dirijam de outra forma para aplicativos específicos (bastante comuns), a versão do Java que você escolheu será seu padrão global do sistema.
Eu definitivamente não recomendo remover completamente o OpenJDK. Há vários módulos e aplicativos que podem estar esperando que o OpenJDK esteja lá e configurado para usá-lo - é o Java padrão que vem com o Ubuntu. Removê-lo pode causar alguns problemas sérios. Deixe-o no lugar para os módulos que o esperam, porque é o padrão. Você definiu o padrão como desejado e pode controlar os aplicativos que você está usando para usar essa configuração (na verdade, você pode fazer isso em um aplicativo por aplicativo sem alterar o padrão do sistema) - mas nem tudo está sob o seu controle, pelo menos não sem algum conhecimento sério e mucking around.