Depende de onde você desenvolve seu programa. Se você usa e tipo de IDE Java geralmente pode ser alterado nas configurações do projeto.
Se você compilar seu programa via linha de comando (significando javac etc.), você pode alterar o ambiente Java desejado adicionando as seguintes linhas ao seu ~/.bashr_profile (que é executado toda vez que você abrir um terminal. Você não Não diga qual shell você usa, então eu suponho que seja bash.Você também não informou qual distribuição você executa.O Arch Linux, por exemplo, oferece um script agradável e fácil para alterar o ambiente Java, archlinux-java O caso geral:
Adicione as seguintes linhas ao ~.bash_profile :
export JAVA_HOME=path/to/java
export PATH=$PATH:/path/to/java/bin
Salve, saia, faça logout e faça login novamente e você deve estar pronto.