Acho que quando suas conexões atingem mais de 450 por segundo, isso pode estar relacionado ao fato de que você está ficando sem portas efêmeras no Linux.
Confira esta pergunta respondida
Pequeno resumo da resposta:
sysctl net.ipv4.ip_local_port_range
sysctl net.ipv4.tcp_fin_timeout
O intervalo de portas ephérmicas define o número máximo de soquetes de saída que um host pode criar a partir de um determinado IP. endereço. O fin_timeout define o tempo mínimo que esses soquetes permanecerão no estado TIME_WAIT (inutilizável depois de ser usado uma vez). Os padrões usuais do sistema são:
net.ipv4.ip_local_port_range = 32768 61000
net.ipv4.tcp_fin_timeout = 60
Isso basicamente significa que seu sistema não pode garantir mais que (61000 - 32768) / 60 = 470 soquetes a qualquer momento. Se você não está feliz com isso, você pode começar aumentando o port_range. Definir o intervalo para 15000 61000 é bastante comum nos dias de hoje. Você pode aumentar ainda mais a disponibilidade diminuindo o fin_timeout. Suponha que você faça as duas coisas e verá mais de 1500 conexões de saída, mais facilmente.