Você quer ir para 64 bits, se possível. O SQL Server poderá alocar a memória extra conforme necessário para todos os pools de memória. Há limites para o que ele pode fazer na versão de 32 bits, mesmo se você configurar o suporte de memória AWE.
Quanta memória é realmente dependente da quantidade de utilização que o SQL Server verá. 4 GB é um bom ponto de partida e você deve medir o desempenho de lá para determinar se precisa de mais. Lembre-se de que o SQL Server se expandirá para ocupar toda a memória disponível, já que precisa de mais memória e que não deixará a memória funcionar, a menos que o SO sofra pressão de memória. Portanto, não se assuste se você vir o SQL Server ocupando muita memória. Isso é normal (e esperado com plataformas RDBMS).
Quanto à questão da virtualização, isso depende. A menos que haja cargas muito pesadas, a virtualização pode funcionar com sistemas de produção. A chave é não alterar o SQL Server ou o sistema operacional porque ele é virtualizado. Aloque a mesma quantidade de processador e memória como se estivesse em um servidor físico. Além disso, verifique se você seguiu as práticas recomendadas em relação à configuração do disco para a versão do ESX que está sendo executada.