Use o repositório EPEL (Extra Packages for Enterprise Linux). A maneira mais fácil de ativá-lo é instalando o pacote epel-release
. Veja como se você tiver RHEL 5 x86_64:
[root@localhost]# rpm -Uvh https://dl.fedoraproject.org/pub/epel/epel-release-latest-5.noarch.rpm
[root@localhost]# yum install git