Primeiro, certifique-se de remover qualquer referência do php. Apenas pressione Ctrl + Alt + T no seu teclado para abrir o Terminal. Quando se abre, execute o comando abaixo.
Para remover arquivos de pacote e configuração
sudo apt-get --purge remove <Package Name>
Para remover dependências e arquivos de configuração não utilizados
sudo apt-get --purge autoremove
Faça o download do php5 5.3.10-1ubuntu3.2 de aqui . Depois de baixado, navegue até a pasta onde o arquivo foi salvo, provavelmente Downloads , e execute o seguinte comando:
sudo dpkg -i < package name>
Ou use o GDebi. Para instalá-lo, pressione Ctrl + Alt + T no seu teclado para abrir o Terminal. Quando se abre, execute o comando abaixo:
sudo apt-get install gdebi
Ou clique abaixo
Depois de instalar o GDebi, use o Navegador de arquivos para encontrar o pacote que você deseja instalar e clique duas vezes nele.