Eu tive o mesmo problema no servidor Ubuntu 9.10 (eu também uso repositórios php53 dotdeb).
Eu resolvi adicionar essa linha ao /etc/apt/sources.list
deb http://security.debian.org/debian-security lenny/updates main
Então você deve executar:
gpg --keyserver wwwkeys.eu.pgp.net --recv-keys 9AA38DCD55BE302B
sudo apt-key add .gnupg/pubring.gpg
sudo aptitude update
sudo aptitude install libltdl3
Agora, depois de reiniciar o apache,
sudo service apache2 restart
... O PHP 5.3 funcionará bem com a extensão mcrypt ativada.