Se você tem um disco rígido reserva disponível, pode tentar instalar uma cópia do Linux como o Ubuntu. Depois que o Linux for instalado, tente instalar o VMware ou o Virtualbox e verifique se o erro está presente. O que isso excluiria é o mau funcionamento do hardware.
Outra coisa que você poderia tentar, mas seria muito mais complexo, seria executar uma cópia do VMware ESXi, tornar a máquina em um servidor temporário e, mais uma vez, verificar se os problemas ainda estão presentes.
Algo que acabou de passar pela minha cabeça, quais são as especificações de uma de suas máquinas virtuais?
Você está alocando todos os recursos do sistema para as VMs ou está retendo?
Por exemplo, eu só uso 1 vCPU em minha (s) VM (s), então ainda há uma disponível para o sistema principal, desde que eu esteja executando apenas 1 VM de cada vez, mas você tem a idéia.