Você deve usar a versão nos repositórios oficiais, se puder. Basta executar isto para instalar:
sudo apt-get install libjai-core-java
Se você ainda quiser seguir o seu caminho, basta baixar uma versão binária, adicionar permissões executáveis e executá-la:
wget http://download.java.net/media/jai/builds/release/1_1_3/jai-1_1_3-lib-linux-amd64-jre.bin
chmod +x jai-1_1_3-lib-linux-amd64-jre.bin
sudo ./jai-1_1_3-lib-linux-amd64-jre.bin
# finally, you can delete the installer if you want
rm jai-1_1_3-lib-linux-amd64-jre.bin