Para adicionar à resposta do thaspius, os limites parecem ser definidos como ele descreve no script de inicialização, mas eu ainda recebia o aviso
[initandlisten] ** WARNING: soft rlimits too low. rlimits set to 1024 processes, 64000 files. Number of processes should be at least 32000 : 0.5 times number of files.
Isso parece sugerir que o limite de arquivos definido no script de inicialização entrou em vigor, mas não o limite de processos. Também seguindo a resposta de Nathan C e adicionando
mongod soft nproc 64000
para /etc/security/limits.d/90-nproc.conf
e reiniciar o sistema resolveu o problema.
Se alguém puder esclarecer por que isso foi necessário, apesar de ter os valores no script mongodb init, eu sou todo ouvidos!