Para usar o php-config você precisará ter o pacote de desenvolvimento do PHP instalado, no Ubuntu você pode instalar o pacote de desenvolvimento do PHP5 usando:
sudo apt-get install php5-dev
Depois de instalar o pacote php5-dev, (na minha instalação do Ubuntu) o php-config pode ser encontrado em:
/usr/bin/php-config