Não há regra geral, e sua pergunta será encerrada por um moderador logo que seja muito geral.
Em geral, a tendência que vi é começar na AWS, e uma vez que você atinge a escala do Dropbox, você pode economizar um bom dinheiro se crie sua própria infra-estrutura . Isso exige muito planejamento, trabalho e mais pessoas, é claro. No entanto, o Netflix está all-in com a AWS.
Dê uma olhada na calculadora da AWS e calcule quais seriam seus custos mensais. Suponha que seus desenvolvedores não desativem as VMs de teste / dev e verifique as instâncias reservadas (observação - elas podem ser vendidas se necessário). Compare isso com os custos de hardware que você espera nos próximos três anos, incluindo administração. É claro que você ainda precisa administrar os sistemas da AWS, é que as habilidades são diferentes e, em alguns casos, a capacidade de automatizar é fornecida.
A AWS também possui uma calculadora do custo total de propriedade . Lembre-se de que a publicidade da AWS não é necessariamente objetiva e justa, e pressupõe que você precisa comprar todo o seu novo hardware.