Executando ulimit -n unlimited como superusuário no Linux diz: Operation not permitted .
Você precisa inicializar no modo de usuário único e corrigir seu limits.conf back e especificar algum valor razoável, porque o Linux nega o NOFILE ilimitado.