A palavra "sistema de arquivos" está um pouco sobrecarregada, e acho que isso pode estar confundindo você. Em certo sentido, um "sistema de arquivos" é o formato no qual os arquivos são gravados em alguma mídia (por exemplo, uma partição em um disco). Em outro sentido, um "sistema de arquivos" (ou mais especificamente, um "Sistema de Arquivos Virtual") é uma abstração fornecida pelo sistema operacional que apresenta um conjunto de arquivos (arquivos regulares, diretórios, etc). Um sistema operacional pode ler o sistema de arquivos em disco e apresentar uma abstração do sistema de arquivos.
Os arquivos apresentados na abstração do sistema de arquivos podem ser armazenados em disco (por exemplo, ext4), em algum outro host na rede (por exemplo, cifs, nfs) ou em outro lugar. Algo como o mergerfs toma múltiplas fontes de arquivos e os apresenta como se fosse uma única fonte. Do site deles, "o mergerfs une logicamente vários caminhos. Pense em uma união de conjuntos".
Dê uma olhada no site da mergerfs , eles têm uma boa descrição do que isso faz.