Esse problema ocorre se você instalou um release errado da sua máquina. Se assim for, então você precisa remover o lançamento da epelo por
yum remove epel-release
Às vezes isso não é suficiente, você precisa remover o cache também:
rm -rf /var/cache/yum/x86_64/6/epel
Então você pode instalar o lançamento do epel novamente
yum -y install epel-release
Fonte: link