Acabei de fazer uma instalação limpa do Web Server 2008R2 Core em uma máquina virtual. Atualmente está usando 253MB de RAM exatamente. Eu não tenho acesso a um Server 2012 .iso para testar.
O problema é que o Server Core é que não há GUI que reduza a RAM (e a superfície de ataque), mas você precisa se familiarizar bastante com o gerenciamento. Como o explorador não o executa, pode tornar o seu software de servidor da Web (seja qual for a sua escolha) difícil ou impossível de usar. Usando o IIS ou qualquer outro servidor web faria a RAM aumentar significativamente - eu diria 256MB RAM para uma instalação miniumal, e 512MB para um servidor "useable" - mais se você estivesse executando algum tipo de banco de dados.
É claro que você provavelmente estaria melhor usando alguma variante do Linux, como o CentOS, para executar um servidor da web. Quando recebi meu primeiro VPS, fui para o Windows em vez do Linux, pois ficava mais à vontade para usá-lo e o custo de me pagar pela licença do Windows era compensado pelo fato de não passar tempo mexendo no CentOS e arriscar servidor compramised.
Acabei de voltar para a VM depois de digitá-la e ela passou para 272MB.