A menos que você tenha um motivo específico, basta usar os pacotes fornecidos pela sua distribuição. Isto é, afinal de contas, o ponto de usar uma distribuição Linux. Você obtém estabilidade, alguma expectativa de compatibilidade e atualizações de segurança - tudo com a conveniência de yum update
.
Se você estiver executando um aplicativo que requer uma versão específica ou se toda a sua empresa girar em torno de seu aplicativo da Web, você saberá abrir uma exceção.
O MySQL e o PHP, em particular, são notórios por ter erros específicos de versão ou mudanças no comportamento. As notas de lançamento do MySQL estão repletas de decisões de design que foram implementadas em uma micro-release, apenas para ser revertido em uma versão posterior.