O conflito está surgindo porque o seu CentOS já está tendo uma versão glibc que não está permitindo que o glibc-common se instale e dependências relacionadas.
execute rpm -qa | grep glibc
e verifique a saída.
Você pode obter duas versões diferentes, como suposto:
glibc-common-2.12-1.80.el6_3.5.x86_64
glibc-common-2.12-1.80.el6_3.4.x86_64
Se sim, remova a versão 3.5:
rpm -e glibc-common-2.12-1.80.el6_3.5.x86_64
Depois disso, execute yum update
e yum install gcc