Não tente se recompor, você só vai se meter em problemas dessa maneira. (e mesmo se você estivesse compilando a si mesmo, deveria compilar em RPMs e instalá-los, em vez de instalar diretamente nos sistemas). Primeiro, tente encontrar todos os arquivos instalados e remova-os (verifique se eles não pertencem a um pacote do sistema com rpm -qf /file
.)
EPEL é a fonte de terceiros para os pacotes do RHEL mais próximos de serem "oficiais", por isso sugiro que: link
rpm -Uvh http://download.fedora.redhat.com/pub/epel/5/i386/epel-release-5-4.noarch.rpm
yum install php-mcrypt
(a URL exata do RPM muda com o tempo conforme as atualizações acontecem e é diferente para as diferentes versões do RHEL, portanto verifique as Perguntas freqüentes da EPEL para obter o link correto.)
O primeiro passo configura o EPEL, o segundo instala o PHP Mcrypt e todas as suas dependências.