Quando tudo está funcionando corretamente, eles devem ter o mesmo efeito.
Os dois estão em diferentes "interfaces" - o endereço de lookback está na interface de loopback que deve estar sempre presente (a menos que você tenha feito algo realmente estranho com sua configuração). O endereço IP local está em uma das suas outras interfaces de rede.
Se essa interface não aparecer, o ping falhará, mas o IP de loopback ainda funcionará.
Além disso, dependendo de como sua interface de rede está configurada - especificamente se está obtendo um endereço IP automático por meio de algo como DHCP, ou se você deu um IP estático - a interface pode aparecer mas não ter o endereço IP você espera, nesse caso, o ping do endereço IP também falhará.