Você pode usar um ppa para instalar uma nova versão do PHP e mantê-la atualizada.
Adicione o ppa ao seu sistema com:
sudo add-apt-repository ppa:ondrej/php5-5.6
sudo apt-get update
Instale os pacotes relevantes no seu sistema com:
sudo apt-get install python-software-properties
sudo apt-get install php5
Quando terminar, verifique a versão com php5 -v