O que eles tentam dizer é que você deve primeiro executar ulimit e, em seguida, executar mongod na mesma sessão de shell. Desta forma, o processo do Mongo DB terá seus limites alterados.
Como você provavelmente deseja iniciar o Mongo DB usando o script de inicialização, a solução mais simples seria modificar esse script de inicialização e incluir a chamada ulimit antes de iniciar o daemon do Mongo DB. Esta ainda não é a melhor solução para modificar os scripts de inicialização do Mongo DB.
A melhor maneira de lidar com esse problema seria alterar os padrões de limite no arquivo /etc/security/limits.conf ou adicionar melhor configuração específica a /etc/security/limits.d Consulte man pam_limits e man limits.conf para obter mais informações.