A solução é desativar a desfragmentação khugepaged
:
echo never | sudo tee /sys/kernel/mm/transparent_hugepage/defrag
echo 0 | sudo tee /sys/kernel/mm/transparent_hugepage/khugepaged/defrag
Veja esta resposta da pergunta O Arch Linux não responde a partir de khugepaged .
Além disso, é provavelmente uma boa ideia limitar a quantidade de RAM que o VMware pode usar para executar VMs para reservar alguns para o sistema host (Editar > Preferências).
Observação: estou postando novamente esta resposta sob esta pergunta porque a resposta é muito difícil de ser encontrada - ela literalmente me levou anos.