No VMware ESX e ESXi, se você instalar o VMware Tools, eles habilitarão o driver de gerenciamento de memória também conhecido como driver de balão.
Outro mecanismo para permitir o excesso de comprometimento de memória é a troca / paginação no nível ESX / ESXi, mas isso é extremamente lento e você deve evitá-lo.
No ESXi 5, além disso, existem outros dois mecanismos para habilitar o excesso de comprometimento de memória. Uma delas é a desduplicação de memória, em que segmentos de memória idênticos serão alocados apenas uma vez. Existe um thread vmkernel que irá analisar a memória no tempo ocioso para encontrar esses segmentos.
O outro mecanismo é a compactação de memória. Em vez de trocar, o servidor criará espaço comprimindo alguma memória.
Para saber se você está usando, adicione a memória alocada para todas as VMs, incluindo o console do ESXi, adicione cerca de 100 MB (isso não é preciso) para o vmkernel. Se isso é mais do que a memória física, então você está exagerando na memória.
Você também pode verificar o tamanho do balão e a troca usada para cada VM nos contadores de desempenho do servidor ESXi.