Não pense que as ferramentas guest do vmware suportam o Unity 3d ainda - eu ainda não tive sorte com o VMWare Player 3.x. Veja isto também - Como eu sei se meu placa de vídeo pode executar o Unity?
Você pode tentar instalar o unity-2d ou tentar usar o Virtualbox que funciona com o Unity 3d (na maior parte do tempo).
Veja este link para instruções de instalação - link