O MySQL 5.5 e o PHP 5.3.8 estão disponíveis em Precise Pangolin , que será lançado como 12.04 em abril deste ano (provavelmente com o PHP 5.3.9, já que o PHP 5.3.8 tem uma regressão em is_a ( ).
Você pode retroceder esses pacotes para a sua versão com a excelente ferramenta backportpackage disponível no ubuntu-dev-tools. Então, instale isso, crie um PPA para você mesmo no launchpad (é muito mais fácil construir no launchpad do que tentar montar o build-deps), e faça:
backportpackage -s precise -r 'lsb_release -c -s' -u ppa:youruser/ppaname php5
Note que a ordem é importante aqui, então espere que o php5 termine de construir antes de fazer o upload do mysql-5.5. Caso contrário, você terá que instalar o libmysqlclient18 do mysql-5.5, o que você pode não querer!
backportpackage -s precise -r 'lsb_release -c -s' -u ppa:youruser/ppaname mysql-5.5
assim que eles terminarem, você pode baixar os arquivos .debs do PPA ou apenas adicioná-los como uma fonte para qualquer servidor que você queira implantar:
add-apt-repository ppa:youruser/ppaname
Boa sorte!