depois de apagar os pacotes, você pode instalar o php 5.4 da fonte! Dessa forma, você tem controle total sobre o que está compilado e sempre pode ter a versão mais recente, em teoria livre de vulnerabilidades.
no centos 6.x, aqui está minha compilação básica
yum -y install libxml2-devel openssl-devel bzip2-devel curl-devel libjpeg-devel libvpx-devel libpng-devel libXpm-devel freetype-devel gmp-devel libicu-devel gcc-c++ postgresql-devel libxslt-devel ImageMagick-devel libgearman-devel libuuid-devel nginx
./configure --enable-fpm --with-zlib --enable-exif --with-mysql --enable-embedded-mysqli --enable-mysqlnd --with-pcre-regex --with-openssl --with-xsl --enable-zip --enable-gd-native-ttf --with-curl --enable-sockets --with-gmp --enable-bcmath --enable-intl --with-mhash --prefix=/opt/php --with-jpeg-dir=/usr/lib64 --with-vpx-dir=/usr/lib64 --with-gd --with-freetype-dir= --with-bz2 --with-pdo-mysql --enable-mbstring --enable-ftp && make && make install
(fique atento, eu proponho instalar em / opt / php, então você pode precisar ajustar seus caminhos)
depois disso, você pode precisar de alguns mods pecl ... como imagemagick ... apenas abaixo do tarball e:
cd /root/imagick-3.1.0RC2 && phpize && ./configure && make && make install
você pode ajustar seu php.ini para carregar as extensões conforme necessário ...