Você também pode tentar ativar a aceleração 3D no VirtualBox
Selecione sua VM nas configurações do LHS - > Exibição - > Guia Video, "Enable Features:" e marque a caixa Enable 3D Acceleration. Clique em OK
Você pode tentar ajustar a memória de vídeo para ver a imagem com as configurações abaixo