Em vM você tem 3d e 2d verificados nas configurações de vm. o que é a memória gráfica vm definida em geralmente configurada em 128, Ao iniciar a máquina, inicializa em um terminal. A partir do terminal entre com seu nome de usuário e senha sudo apt-get install update então tente sudo apt-get install ubuntu-desktop