Por uma questão de clareza, estou adicionando um teste mais ou menos roteiro do que falamos nos comentários. Isto está no kernel 4.7.2 onde o problema não acontece:
$ cd /dev/shm
$ free
total used free shared buff/cache available
Mem: 1794788 673948 873668 19300 247172 963316
Swap: 2097148 0 2097148
$ for i in 'seq 100000'; do touch node$i; done
$ ls -1|wc -l # oops, there are extra three pulseaudio files here
100003
$ free
total used free shared buff/cache available
Mem: 1794788 738240 811944 19300 244604 890184
Swap: 2097148 0 2097148
OK, obtemos a pegada de memória. Mas rm
limpa isso
$ rm node*
$ free
total used free shared buff/cache available
Mem: 1794788 671484 896524 19300 226780 965884
Swap: 2097148 0 2097148
A partida não é perfeita porque eu limpei alguns caches enquanto isso. Mas a quantidade de memória livre e memória no cache é a mesma no início e no final desta pequena experiência.
Portanto, sim, o problema ocorre apenas em uma versão antiga do kernel. O que indicaria que houve um bug, mas já foi corrigido.