Qual versão do VMware você está executando? Servidor, ESX 3.5, vSphere ou outra coisa?
Supondo que você esteja usando o ESX / vsphere, parece que você está apenas vendo a memória balonismo em ação.
Com o ballooning, um driver instalado como parte das ferramentas do VMware aumenta de tamanho na memória, forçando outros aplicativos inativos a paginar, consumindo memória subutilizada em um servidor e, assim, marcando-o como livre para ser alocado a outro mais ocupado , servidores que precisam da memória agora.
Em operação normal, a técnica de balão de memória é muito eficaz e tem pouco ou nenhum impacto no desempenho, o que parece ser o caso aqui - você não disse que está causando algum impacto, parece estranho, certo?
Há muito mais sobre o assunto nas Melhores práticas do vSphere PDF