Existe um limite global definido pelo sysctl kern.maxfilesperproc .
Para alterar isso, edite /etc/sysctl.conf para incluir algo como:
kern.maxfilesperproc=yourchosenvalue
Então, service sysctl restart
Você pode ter que fazer login novamente ou reiniciar para ver o novo máximo.