Parece que você está perguntando sobre como fazer algo como unionfs além de algo como o ND montado por ro.
O Knoppix e outras distribuições do LiveCD usam o unionfs para fazer a mesma coisa usando um arquivo de disco em um dispositivo USB ou em algumas configurações uma partição de disco.
Eu não fiz uma configuração como essa por cerca de 10 anos ou mais.