O JRE vem como um instalador RPM ou Deb. Na realidade, eles são simplesmente arquivos que entram no gerenciador de pacotes. Então, teoricamente, você deve apenas extrair o conteúdo de um dos instaladores, despejá-lo em seu sistema de arquivos e resolver qualquer problema de biblioteca ausente.
No entanto, fazer isso é um pouco louco. Por que não pegar o servidor Ubuntu, instalar o X, depois rodar o JRE lá? Nenhum gerenciador de janelas, nenhum ambiente de desktop, apenas seu programa Java. Isso é bastante leve o suficiente se você não quiser um DE.