Eu tive o mesmo problema em um macbook cuja resolução nativa era 1440x900, tentando todas as coisas que você fez e vendo os mesmos resultados, até encontrar e habilitar aceleração de hardware 2D e 3D nas configurações da minha máquina virtual (Windows 10, em o meu caso). Iniciando a VM novamente, obtive resolução nativa completa no modo de tela inteira.