Não tenho certeza sobre como o Exchange usa RAM, mas o SQL Server supõe que seja o único aplicativo em um servidor e reservará toda a memória deixando apenas uma fatia para o sistema operacional. Uma vez encontrei uma página de MS que explicava a proporção que ela deixava para o SO e outras coisas que considerava, mas atualmente não consigo encontrá-lo.
Eu sugiro definir um limite na quantidade de RAM que o SQL Server pode usar, como um palpite puro da minha parte eu começaria com 1 GB. Você deve então monitorar o desempenho do SQL e do Exchange, bem como monitorar o uso de RAM no servidor para ver se isso tem algum efeito, seja bom ou ruim.
Por fim, como este é um servidor virtual, você considerou separar SQL e Exchange em máquinas virtuais separadas, se você não puder fazer isso, eu tentaria alocar mais RAM virtual. Supondo que o sistema operacional convidado possa usá-lo.