O que eu estava fazendo com limits.conf estava correto e era aplicável. Só que eu estava executando um comando errado para validar minhas alterações. Estou alterando os limites hard , portanto, o comando correto deve ser ulimit -Hs e ulimit -Hn . O crédito vai para link