Finalmente, encontrei um projeto de código aberto chamado Angry IP Scanner , examinei o código-fonte e encontrei a resposta.
Basicamente, ele consulta a porta UDP 5353 (Multicast DNS) e a porta 137 (NetBIOS) da máquina-alvo para encontrar o nome de host dessa máquina.
Eu perdi essas portas porque netstat -ant
exibe somente portas TCP. netstat -anu
os pegaria.