Vá até a URL em um navegador e remova os componentes do caminho do final e você acabará encontrando o seguinte: link , o que explica por que não está funcionando. Você modificou seu arquivo CentOS-Base.repo anteriormente?
Atualize para o RPM de liberação centos mais recente manualmente, por exemplo:
rpm -Uvh http://mirror.centos.org/centos/5/os/i386/CentOS/centos-release-5-7.el5.centos.i386.rpm
E certifique-se de que o arquivo CentOS-Base.repo é usado e você deve ter mais sorte com o yum depois.