Uma boa maneira de fazer isso é usando o gerenciador de pacotes do aptitude. É um gerenciador de pacotes avançado que inclui até mesmo um display gráfico no terminal. Instale-o com
apt-get install aptitude
Agora você pode simplesmente usar a função simular com
aptitude -s purge phpmyadmin php5 mysql-server
(Este comando é apenas para mostrar como funciona! Eu não sei quais pacotes você exatamente quer limpar, então adicione você mesmo)
No entanto, isso mostra apenas o que será eliminado, não a limpeza real (como @Rinzwind afirmou.