Sim. Esta é uma das formas corretas. Outra maneira é definir fs.file-max em /etc/sysctl.conf .
Mas aguarde, não é necessário reiniciar o servidor para verificar, execute ulimit -n 20001 na linha de comando, efetue logout e login novamente e execute ulimit -n novamente para ver o que acontece.