Você precisará de acesso root para aumentá-lo. Se você estiver usando o Ubuntu (também funciona para outras distribuições): link
Se você estiver usando o bash, o comando é 'ulimit -n'. Para alterar o limite permanentemente, edite /etc/security/limits.conf (sua distro pode usar um local diferente).
Para uma lista de todas as opções, use -a:
$ ulimit -a
core file size (blocks, -c) 0
data seg size (kbytes, -d) unlimited
scheduling priority (-e) 20
file size (blocks, -f) unlimited
pending signals (-i) 16382
max locked memory (kbytes, -l) 64
max memory size (kbytes, -m) unlimited
open files (-n) 1024
pipe size (512 bytes, -p) 8
POSIX message queues (bytes, -q) 819200
real-time priority (-r) 0
stack size (kbytes, -s) 8192
cpu time (seconds, -t) unlimited
max user processes (-u) unlimited
virtual memory (kbytes, -v) unlimited
file locks (-x) unlimited