O grande negócio com a nuvem é a flexibilidade e você paga um pequeno prêmio por ela.
Se você precisar de 5 TB o tempo todo, comprar seu próprio hardware é mais eficiente em termos de custo (embora você ainda precise considerar manutenção, garantias, substituição, etc.). Se você precisar de 5 TB por um curto período de tempo, alugá-lo pela nuvem seria muito mais barato do que comprar todo esse equipamento.
O mesmo acontece com as VMs e outros recursos do computador. Por exemplo, se você precisar de muito tempo de processamento, poderá alugar várias instâncias do EC2. Conheço uma grande instituição financeira que inicia cerca de 15.000 máquinas virtuais da Amazon todas as noites para fazer cálculos contábeis. As instâncias não são executadas por um tempo muito longo, tornando o processo muito econômico.