Eu consegui reduzir a latência para o meu servidor Ubuntu com o seguinte:
# echo 1 > /proc/sys/net/ipv4/tcp_low_latency
# echo 1 > /proc/sys/net/ipv4/tcp_sack
# echo 1 > /proc/sys/net/ipv4/tcp_timestamps
# echo 1 > /proc/sys/net/ipv4/tcp_window_scaling
ou assim, se você quiser que ele fique nas reinicializações:
# echo 'net.ipv4.tcp_low_latency = 1' >> /etc/sysctl.conf
# echo 'net.ipv4.tcp_window_scaling = 1' >> /etc/sysctl.conf
# echo 'net.ipv4.tcp_timestamps = 1' >> /etc/sysctl.conf
# echo 'net.ipv4.tcp_sack = 1' >> /etc/sysctl.conf
O RTT no ping passou de uma média de algumas centenas de ms (o máximo era, por vezes, superior a 1000 ms) para 1 a 2 ms.