Abra o terminal pressionando Ctrl + Alt + T e execute o seguinte comando:
gedit ~/.bashrc
Agora vá até o final do arquivo e adicione as seguintes linhas:
export JAVA_HOME=/path/to/jdk/folder
#usually /usr/java/jdk or /usr/lib/java/jdk
export PATH=$PATH:$JAVA_HOME/bin
Agora no tipo de terminal:
sudo source ~/.bashrc
Isso fará com que apareça em todos os terminais, se estiver aberto.
Agora você pode verificar isso digitando a seguinte linha no terminal
echo $PATH
Ele mostrará o caminho do seu jdk no final
Para mais informações, visite este link