Idealmente, você precisa definir duas variáveis de ambiente:
export JAVA_HOME=/java/location
export PATH=$JAVA_HOME/bin:$PATH
Você pode criar scripts diferentes para iniciar os vários programas e definir essas variáveis de maneira diferente em cada caso. Ou você pode configurar cada aplicativo para iniciar com uma conta de usuário diferente e definir essas variáveis no script de inicialização apropriado dos usuários.
$ JAVA_HOME / bin precisa vir primeiro no PATH para evitar quaisquer outros binários java no caminho padrão sendo executado.