O pacote correto para instalar todas as dependências necessárias para construir módulos do kernel é kernel-devel (veja a documentação do CentOS para mais informações).
Os cabeçalhos não estão instalados em /usr/src/kernels , mas estão instalados em vários diretórios abaixo de /usr/include (o local padrão dos arquivos de cabeçalho C). Você pode listar o conteúdo do pacote kernel-headers que você instalou usando:
rpm -ql kernel-headers