O mais divertido é que você pode começar com duas máquinas, onde ambas podem ser VMs no mesmo hardware. Dê uma olhada no link do OpenNebula
Você não terá a escalabilidade, mas as mesmas interfaces de gerenciamento. E a partir daí, é apenas disponibilizar mais recursos para o nó de gerenciamento ...