Se você está perdendo e precisa do próprio GMP, você pode instalar o GMP a partir do repositório do CentOS Base .
yum -y install gmp
Quanto ao pacote php-gmp, ele não está disponível no repositório padrão do CentOS 6 Base. Você tem que criá-lo você mesmo, o que pode ser entediante, ou usar um repositório não padrão que o inclua.
NOTA: Saiba que isso irá substituir a versão padrão do PHP 5.3 do CentOS com uma versão mais nova mantida pelo repositório RPM do Remi .
É aconselhável executar o PHP 5.6 no mínimo , já que este não é o EOL até dezembro de 2018.
A solução mais fácil é instalar a partir de outro repositório ( repositório REMI ).
Isso requer que você tenha o repositório EPEL instalado primeiro.
yum -y install epel-release
Em seguida, continue a instalar o Repositório REMI e o yum-utils (para configurar a versão do PHP).
yum -y install http://rpms.remirepo.net/enterprise/remi-release-6.rpm
yum -y install yum-utils
Para ativar o repositório PHP 5.6 .
yum-config-manager --enable remi-php56
Atualize todos os seus pacotes PHP instalados atualizando o sistema.
yum -y upgrade
Então finalmente instale o pacote php-gmp.
yum -y install php-gmp