Consegui verificar isso com strace ( Depuração com rastreadores syscall | stromberg.dnsalias. org ). Eu pude vê-lo mmap'ing pequenos pedaços mais e mais, e logo antes do erro seria mmap um grande pedaço.
Então, adicionei muito espaço de troca e o erro desapareceu.
Obrigado a todos que leram isso.