Vá até um terminal e digite:
export JAVA_HOME=/usr/lib/jvm/java-6-sun
e consequentemente para os outros
Não se esqueça de que esses valores estarão disponíveis apenas na sua sessão de terminal atual. Você terá que adicioná-los a um arquivo de ambiente persistente como ~/.bashrc
ou ~/.zshrc
para mantê-los entre uma reinicialização de sessão de terminal
Para verificar variáveis existentes, digite env