Você ativou as opções 3D nas configurações do vmware? Considerando que é uma VM, por que você precisa de um desktop 3D?
Eu instalei o Ubuntu 11.10 no VMware, e agora quando eu inicializo o Ubuntu, ele me leva diretamente para uma sessão 2D. Alguma coisa que eu esteja perdendo aqui que impeça o carregamento da área de trabalho 3D?
Você ativou as opções 3D nas configurações do vmware? Considerando que é uma VM, por que você precisa de um desktop 3D?