Resposta curta - é devido a um aplicativo. O aplicativo cria soquetes por um curto período de tempo, fecha-os e, em seguida, ele precisa abrir imediatamente outro soquete. A lentidão está relacionada com o (s) processo (s) ficando sem soquetes para usar.
Ao criar um soquete, há opções - SO_REUSEADDR abnd SO_REUSEPORT. Eles têm funções parecidas, mas eu suspeito que no Centos 5 SO_REUSEPORT não esteja disponível. De qualquer forma, a configuração opcional em uma chamada de soquete permite que a porta seja imediatamente reutilizada.
Portanto, uma correção comumente usada é recodificar. É provavelmente um aplicativo de rede que se conecta por alguns segundos e termina a sessão.