Seu shell pesquisa os executáveis nos diretórios listados em sua variável PATH. Veja
echo $PATH
Se você estiver executando o bash shell, digite o comando
type -a java-version
e
type -a java
Você verá todos os diretórios onde o bash está encontrando esses dois executáveis. Você terá que prefixar seu novo diretório de instalação do jdk7 (o diretório bin lá!) No seu PATH, ou iniciar o java dando o caminho absoluto para a versão que você deseja.
Se você instalou o jdk7 sob / usr / local / jdk7, então inicie o executável java lá digitando
/usr/local/jdk7/bin/java
ou prefixar / usr / local / jdk7 / bin na sua variável PATH com
export PATH=/usr/local/jdk7/bin:$PATH
Espero que isso ajude.