Em abril de 2010, o Btrfs ainda está em desenvolvimento e não está pronto para uso em produção (na verdade, não é - eu fui mordido experimentando o kernel 2.6.32). O recurso btrfs contém alguns recursos do ZFS, mas não todos. Mais notavelmente o RAID-Z e a deduplicação de dados estão faltando.
O que funciona com o btrfs é o snapshot, o copy-on-write, o checksum e o uso de vários discos como um único volume. O GNU cp recebeu recentemente uma função de "reflink" para copiar arquivos como duplicatas de copy-on-write.
O ZFS-FUSE parece mais estável que o btrfs, então se você for com o Linux, isso pode ser uma opção ( link ). A maioria dos recursos do Solaris ZFS é implementada. Não é possível encontrar benchmarks de desempenho atualizados.
Para uma solução sólida, eu diria continuar com o Linux e o XFS. Se você precisar de snapshot, adicione LVM2. Se você precisar de Software-RAID, adicione mdadm.