Eu recomendaria o OpenSolaris com RAIDZ ou RAIDZ2 dependendo da quantidade de redundância desejada. O uso de RAIDZ significa que você não só perderá uma unidade, mas se uma unidade começar a retornar dados inválidos, ela poderá informá-lo e corrigi-lo. Eu uso isso em combinação com o netatalk e o NFS, mas ele também suporta o compartilhamento do Samba.
Outro recurso interessante do ZFS do ponto de vista de administração é a capacidade de criar e destruir sistemas de arquivos com rapidez e facilidade. Isso torna muito fácil fazer coisas como fornecer a cada usuário seu próprio sistema de arquivos ou ter um sistema de arquivos com compressão gzip-9 enquanto os sistemas de arquivos mais comumente acessados não têm compactação ou algo rápido como lzjb.
O OpenSolaris tem um excelente suporte de hardware, para que você possa personalizar o hardware de acordo com suas necessidades. O ZFS tem um cache bastante agressivo, portanto, mais RAM ajudará bastante.