Eu instalei o java jre usando estes passos, você pode fazer os mesmos passos para o jdk.
tar xvfz jre-8u25-linux-i586.tar.gz
mv jre1.8.0_25/ /opt/
usage: alternatives --install <link> <name> <path> <priority>
alternatives --install /usr/bin/java java /opt/jre1.8.0_25/bin/java 2
alternatives --config java
There are 2 programs which provide 'java'.
Selection Command
-----------------------------------------------
*+ 1 /usr/lib/jvm/jre-1.4.2-gcj/bin/java
2 /opt/jre1.8.0_25/bin/java