OK, Eu estava usando o php 5.5.19 + dfsg-1 + deb.sury.org ~ precise + 1 mas, quando tentei instalar o php5-mysql, tive problemas de dependência.
Então, eu removi o php, php-common, imaginando que ele excluiria apenas os arquivos do programa e deixaria as páginas de configuração em paz. (Eu realmente gosto da configuração que tive)
Eu reiniciei o servidor da web. Então, eu reinstalei o php5 e o php5-mysql usando os repositórios padrão. Fui solicitado durante a instalação para usar o arquivo de configuração existente, o que eu fiz. A instalação foi concluída com sucesso.
Perper isso pode ajudar alguém em uma situação semelhante.