Em alguns sistemas, há um comando chamado java-config ou java-config-2 que ajuda a selecionar um java vm quando você tem várias versões do JDK ou do JRE instaladas com o instalador do sistema. Mas basicamente você quer chamar seu aplicativo java com o binário java que deve viver em algum lugar perto de $JAVA_HOME . Eu acho que $JAVA_HOME/bin/java .
O $JAVA_HOME ajuda o programa chamado java a encontrar suas bibliotecas, mas isso não ajuda a linha de comando a encontrar o binário java correto.