Para especificar uma versão que você faz:
yum install php-5.3.3-14
Isto assume que o php-5.3.3-14 está disponível nos repositórios que o seu servidor de temporariedade. Para ver as versões disponíveis do php, faça o seguinte:
yum list php
ou yum search php
e leia atentamente a lista que lhe é fornecida. Eu estou em uma caixa do CentOS6 agora e vem com o php-5.3.3-14.
Estou assumindo que você está no Fedora desde que você mencionou o PHP 5.4. Não seria mais aconselhável se você construísse seu servidor de teste com o mesmo sistema operacional e fontes de recompra como sua produção?
Acho que o pessoal poderá ajudá-lo mais se você especificar quais versões e pacotes do SO e quais repositórios estão disponíveis para o seu servidor de produção. Eu posso estar errado, mas eu acho que o php rpms também deve coincidir com o apache para o qual eles são construídos como um módulo.