As coisas que você está tentando baixar do java.com já estão compiladas; eles já são binários. Este link contém instruções sobre como instalar a versão de 64 bits e here fornece instruções para a versão de 32 bits (i386).
O JRE e o JDK da Oracle (os mesmos que estão no java.com) são proprietários, mas eles são conhecidos por terem basicamente o mesmo código-fonte que o OpenJDK, a versão de código aberto que também está no Ubuntu. O OpenJDK é recomendado para ser usado no Ubuntu em vez do Oracle, porque é oficialmente mantido pela Canonical. Para instalar o JRE do OpenJDK (equivalente ao que você está tentando instalar agora) no Ubuntu 10.04, execute o seguinte comando:
sudo apt-get install openjdk-6-jre
ou clique aqui .
Observe que este é o OpenJDK 6, não a versão mais recente 7. As instruções no primeiro parágrafo são para o Oracle Java 7.