Você tem alguma outra máquina virtual executando essa experiência com problemas semelhantes?
Pode ser um problema com o driver 'memory ballooning' do programa (driver vmmemctl) que você pode tentar consertá-lo manualmente substituindo-o. Honestamente, a melhor coisa a fazer é desinstalar o VMware, reinstalá-lo e não corrigi-lo e ver se isso funciona. Você poderia então testar para ver se um patch causa um problema.