A configuração de limite padrão para o bash no OSX é semelhante a 256.
Então, como Joe diz:
ulimit -n x
Onde x pode ser um número maior.
Você pode querer adicioná-lo ao script de início do processo ao executá-lo ou ao seu .bashrc para torná-lo mais permanente.
lsof permitirá que você veja o que cada arquivo é, embora os arquivos neste contexto também sejam conexões de rede, canais, bem como arquivos reais.