Se você baixar o binário linux da Sun, poderá instalá-lo no diretório que desejar. Em seguida, apenas faça referência a essas bibliotecas em seu código e você é bom para ir.
Com o instalador binário, ele criará seu próprio subdiretório nomeado (por exemplo, em seu exemplo, /usr/java/jdk1.5.0_), para que você possa fazer o download de quantos desejar e eles se alinharão em sub-drectories apropriadamente nomeadas.
O principal binário java mora em / usr / bin, então se você quiser substituí-lo ao ponto em que quando você digita "java" ele acessa seu java, e não aquele, você simplesmente remove o antigo de / usr / bin, e ligar o seu novo lá dentro Digitar which java
dirá qual é o java padrão no seu sistema.
@jldupont: Quando penso em instalações simultâneas, penso em várias versões instaladas na mesma máquina, o que meu método absolutamente lhe dará. Eu tenho cerca de 12 versões do java instalado na minha caixa de produção para lidar com hand-me-downs de empresas que ainda não foram atualizadas.
No entanto quando você digita "java" você só vai ter uma versão do java, já que é isso que está em '/usr/bin'... Você teria que digitar algo como '/usr/java/jdk1.5.1/bin/java' para obter um binário java específico que não seja o padrão do sistema.