Você pode usar o lsof para entender quem está abrindo tantos arquivos. Geralmente é um servidor (web) que abre tantos arquivos, mas o lsof certamente ajudará você a identificar a causa.
Depois de entender quem é o cara mau, você pode
- mate o processo / pare o programa
- aumente o link do ulimit
Se a saída do lsof for bastante grande, tente redirecioná-la para um arquivo e, em seguida, abra o arquivo
Exemplo (você pode ter que Ctrl + C o primeiro comando)
lsof > ~/Desktop/lsof.log
cat ~/Desktop/lsof.log | awk '{ print " " ; }' | sort -rn | uniq -c | sort -rn | head -20
vim ~/Desktop/lsof.log