Se você realmente não se importa com a confiabilidade, você pode usar o LVM e continuar adicionando volumes físicos para um único grupo de volumes. Ou seja, você teria um único grupo de volumes agindo como uma unidade virtual, composta de vários volumes físicos (as unidades reais). Em vez de partições no estilo PC, você criaria volumes lógicos para sistemas de arquivos e troca.
O LVM é uma boa ideia, de qualquer maneira, se você planeja estender seu armazenamento ou mover coisas. É muito mais fácil redimensionar um volume LVM ou movê-lo para uma unidade diferente do que fazer isso para partições de PC, e todo o material LVM pode ser feito online (ou seja, durante a execução do volume montado).
O subsistema RAID do Linux pode grow RAID-5 e RAID-6 arrays (é lento, mas pode ser feito online), mas curiosamente não linear arrays, então você teria que começar com pelo menos dois discos.
Você também pode procurar em ZFS , um sistema de arquivos com gerenciamento de volume integrado. Não sei quais são suas capacidades para adicionar armazenamento.