Não - uma máquina não é obrigada a responder a um ping. Para ter certeza, você precisa fazer o ping da rede local em que a máquina está ligada e, em seguida, verificar se há uma resposta de arp:
arp -a
Se você vir um endereço mac no endereço IP, o dispositivo existe. Se não, então efetivamente não está presente (agora - pode ser desligado apenas por enquanto).