Cada conexão é um soquete aberto, cada soquete é um arquivo, - > portanto, esse usuário tem limites de arquivo restritos a 1024 arquivos abertos.
Na verdade, eu acho que o seu pam está sendo forçado a usar o /etc/security/limits.d/90-nproc.conf, que substitui o limite de configuração definido no limits.conf.