Não vejo nada obviamente errado em sua configuração, parece que você já cuidou de ajustar corretamente suas configurações (especialmente maxconn). O conntrack é carregado nesta máquina? A tabela de conexões pode estar cheia, impedindo que as verificações e conexões sejam estabelecidas no servidor.
Além disso, você verificou quantas conexões simultâneas foram enviadas para o servidor? É possível que o servidor esteja alternadamente subindo e descendo devido à carga.
Verifique as mensagens de log do kernel em busca de qualquer erro inesperado.