O terceiro servidor está sendo carregado ou é exclusivo dos outros dois de outra maneira?
Sem saber mais, sugiro que você obtenha Wireshark nesses servidores enquanto faz ping e analisa a atividade do ICMP. Minha suspeita (possivelmente infundada) é que esses servidores estão com problemas ARP e enviando pacotes de resposta de volta, mas você nunca os está obtendo.
Com o Wireshark, defina seu filtro como "arp ou icmp" e veja o que ele traz. Você também deve dar uma rápida olhada nos seus logs de eventos do sistema - pode haver algo óbvio lá que atua como adivinhação.
Se você não estiver familiarizado com arp, é o protocolo para traduzir os endereços da camada 3 (IP) para os endereços da camada 2 (MAC). Isso tem que acontecer corretamente ou o quadro da camada 2 contendo o pacote da camada 3 nunca será enviado ou chegará ao destino errado.
Finalmente, as recomendações de velocidade / frente e verso dos outros pôsteres são boas práticas sólidas, embora eu duvido que elas sejam a causa raiz aqui. Observe que, em gigabit ethernet, você não precisa mais se preocupar com a autonegociação.
EDITAR
As alterações de DNS feitas são uma boa ideia, mas é difícil imaginar um cenário em que isso levaria a tempos limite de ICMP. Possivelmente, o aplicativo está bloqueando milhares de consultas DNS e comendo seus recursos de tal forma que não pode responder ao ICMP?
De qualquer forma, se isso não resolver o problema, os rastreamentos de pacotes devem mostrar mais do que está acontecendo.