Você pode:
- Primeiro, tente ativar a aceleração de hardware para vídeo no VMware Player, caso ainda não esteja ativado.
- Você também pode tentar instalar VMware Tools dentro do Ubuntu.
Isso acontece porque o sistema operacional convidado VMware Player não pode acessar diretamente o recurso de vídeo fora do sistema operacional host. Então o Ubuntu verificou a capacidade de vídeo e mudou para a interface 2D.