EDIT: Esqueceu de mencionar como instalar o SCL em primeiro lugar
Instale as configurações do repo
$ yum install centos-release-scl
(instala centos-release-scl e centos-release-scl-rh)
Conceder
yum-config-manager --enable centos-sclo-rh-testing
uma tentativa. Não é óbvio que eu link ainda contém todas as versões do devtoolset 3 até 7.
EDIT 2: Acontece que mesmo habilitando centos-sclo-rh-testing realmente não resolve o problema como yum tenta instalar devtoolset-3-binutils para el7 que requer glibc-2.14 ... O download manual dos RPMs requeridos do link parece ser a única opção no momento