Deixe-me sugerir que você tenha o arquivo HelloWorld.class dentro de algum diretório. Para executá-lo, basta digitar neste diretório:
java HelloWorld
Para executar o arquivo jar, use -jar
key:
java -jar MyProgram.jar
Para selecionar uma máquina java, digite:
sudo update-alternatives --config java
Para instalar o Oracle JDK:
sudo add-apt-repository ppa:webupd8team/java
sudo apt-get update
sudo apt-get install oracle-jdk7-installer
Após a instalação, você pode selecioná-lo como java padrão.