Existem dois sistemas de arquivos que eu conheço que lhe darão compressão no Linux: BTRFS e ZFS.
O ZFS tem muitos seguidores nas comunidades Sun / Solaris, FreeBSD e FreeNAS. Ele funciona bem no Linux, baseado na minha experiência com ele. Ele não vem incluído em nenhuma das distribuições de grandes nomes, mas existem repositórios adicionais que facilitam a instalação. Veja ZFS no Linux
O BTRFS é mais recente e é somente para Linux. Eu tenho rodado no Ubuntu 14.04 e achei estável. Suporta vários métodos de compactação. Eu encontrei LZO comprime bastante bem e é muito rápido; Eu não vejo nenhuma desaceleração de desempenho da operação de compactação.