Após verificar se a interface local está ativa (ifup lo0 ou similar).
Verifique se há problemas de rotas, firewall ou iptables.
Aqui foi um problema do arquivo localizado aqui /proc/sys/net/ipv4/icmp_echo_ignore_all
Quando definido como 1 : não há resposta para solicitações ICMP, portanto, o ping não funcionará.
Quando definido como 0 : as respostas às solicitações do ICMP são ativadas.
Verifique se define como 1. Em caso afirmativo, defina-o como 0 usando este comando:
echo 0 > /proc/sys/net/ipv4/icmp_echo_ignore_all
Agora, sua máquina responde ao ping.