Você precisa adicionar $JAVA_HOME/bin
ao seu PATH
Você pode verificar isso facilmente:
$ PATH=$PATH:$JAVA_HOME/bin
$ java -version
Depois de verificar se funciona, edite o arquivo ~/.bashrc
para incluir a linha
export PATH=$PATH:$JAVA_HOME/bin