mhddfs é exatamente o que você está procurando: link
Você pode montar assim:
mhddfs /mnt/a/,/mnt/b/,/mnt/c/ /storeall/
onde / mnt / a /, / mnt / b / e / mnt / c / são três pontos de montagem diferentes que podem ser de três discos rígidos diferentes. Você pode desmontar assim:
fusermount -u /storeall
Se um disco falhar, você só perde os arquivos armazenados naquele disco em particular. Se seus dados são importantes para você e você gostaria que seus dados sobrevivessem a uma falha de disco, você deveria considerar uma configuração de RAID (procure por mdadm).
edite: PS! Os dispositivos que você monta podem ter sistemas de arquivos diferentes!