O que você está falando é chamado de cluster Imagem do Sistema Único , ou às vezes um sistema de memória compartilhada distribuída (em um contexto mais limitante). Existem alguns projetos listados nas páginas da Wikipédia vinculadas que você deve examinar. Eu usei o cluster SGI Altix (os NUMAlink), e pode ser muito poderoso se você tiver um processo que requer um enorme espaço de memória.
Com o aumento da velocidade da CPU e da capacidade de memória de nós individuais, isso parece ser menos uma técnica popular de clustering computacional. A maioria das pessoas usa APIs de transmissão de mensagens para permitir que a computação paralela se comunique através de interconexão rápida ou de uma simples ethernet.