I couldn't find any running sample whose nodes are installed on VMs.
Não sei onde você esperaria encontrar uma "amostra em execução", mas, em geral, a instalação em máquinas virtuais será praticamente idêntica à instalação em máquinas físicas, e a documentação do upstream em http://docs.openstack.org/
deve levar você começou.
I wonder how long can I go with nodes on virtual machines?
Não há uma resposta única para essa pergunta. Geralmente, você descobrirá que seus hosts computacionais terão melhor desempenho quando executados em hardware físico, mas não é incomum executar todos os outros serviços em ambientes virtuais, mesmo em implantações de produção. Isso realmente depende de suas necessidades particulares.
If I build an environment with nodes on VMs, will I be able to scale my cloud in future?
Claro. O OpenStack não se importa com o virtual vs. o físico. Provavelmente, você precisará fazer alterações de configuração à medida que você passa de máquinas virtuais para físicas (para itens como nomes de interface, tipo de virtualização, etc.), mas não há nada relacionado à sua configuração inicial.