Assumindo que este é o estoque php53 do CentOS, você pode remover com segurança o pacote php53. O binário em / usr / bin / php é fornecido pelo php53-cli, não pelo php53. Os outros pacotes / módulos php53 que você instalou não serão removidos.
O pacote php53 fornece o módulo php para o apache, e é por isso que ele está sendo removido quando você tenta remover o Apache. Ele só tem um nome ruim que pode facilmente levar a confusão, pensando que você está desinstalando todo o php53 quando não está.
O seguinte pode esclarecer qualquer confusão:
# see what is inside the php53 RPM.
# this is what is being removed when php53 is removed
# notice its all stuff for the Apache HTTPd server
rpm -ql php53
# show all the php53 packages installed.
# notice how they're all sticking around and not being removed
rpm -qa 'php53*'