the normal Ping takes 0.270ms and I believe this is too much
Ah, não. Desculpa. Está tudo bem.
precisa de latência muito baixa? Use tecnologia projetada para isso. Infiniband.
Há latência em redes de 1GB. 0.2ms é menor que 1ms. Está ok para 99% das aplicações.
So how I can optimize the latency in general, which will help me in .NET WCF also
Não, não será. No final, um sistema de cluster baseado em WCF projetado corretamente irá lidar com a latência decente sem problemas. Sim, os pacotes indiciduais demorarão mais que o tempo zero, mas, por outro lado, o design adequado do protocolo de mensagens e a granularidade do pacote de trabalho em um cluster significa que isso não significa que as máquinas não fazem nada.
Eu faço um monte de design / operações de sistemas distribuídos e, seriamente, 0.2ms não é algo que eu gostaria de saber, a menos que projetar um sistema HFT e usar o WCF em si mesmo seja um movimento estúpido - a HFT encerra a latência em Microssegundos (nota: HFT = negociação de alta frequência).