Os diretórios não podem ser compactados on-line exatamente porque dos requisitos do seekdir / telldir. Eles exigem que qualquer programa seja capaz de manter a posição dentro do diretório por tempo indeterminado e ainda só leia qualquer entrada uma vez; portanto, as entradas não podem ser movidas enquanto o fs estiver montado.
Você pode compactar o diretório off-line com e2fsck -D
.