Acontece que a memória estava sendo consumida pelos buffers de metadados do XFS. Eles foram movidos do cache da página do kernel para buffers específicos do XFS no kernel 2.6.39. O patch que mudou o comportamento pode ser encontrado aqui:
A diferença de desempenho se deve a um equilíbrio diferente entre os dados do arquivo e o cache de metadados, como resultado da alteração do XFS.