Eu uso o ubuntu 16.04, e todo o trabalho está bem. Exemplo de como instalar o php5.x.x link
Pré-requisitos
Você precisará desses dois pacotes extras se não os tiver:
sudo apt-get install build-essential libxml2-dev
Instalar o PHP
No terminal:
wget http://in1.php.net/distributions/php-5.3.29.tar.bz2
tar -xvf php-5.3.29.tar.bz2
cd php-5.3.29
./configure
make
make test # Neither mandatory nor a bad idea.
sudo make install
As instruções irão descompactar a compilação da fonte e instalarão o php no seu sistema.