Embora não seja exatamente o que você descreve, você fez alguma pesquisa no Google para soluções de clusters ou clustering ? Um cluster realmente não tem um único sistema operacional rodando no topo de todos os sistemas, mas eles são construídos de uma maneira transparente para compartilhar trabalho ou dados de alguma maneira. É provavelmente o mais perto que você vai chegar realisticamente ao que você descreve.
Dê uma olhada no movimento NoSQL, já que há muita atividade relacionada em relação à migração de dados automaticamente com a capacidade de remover e adicionar sistemas à vontade. Você pode querer ler o teorema CAP , aqui está uma referência que encontrei:
link
Tudo isso pode ficar bastante complexo e não há uma solução melhor. Como sempre, você precisa encontrar a solução mais adequada ao seu caso de uso.