Sugiro atualizar as adições do convidado com o gerenciador de pacotes da VM. Então, faça o login primeiro na sua VM e abra um Terminal para digitar:
sudo apt-get install virtualbox-guest-dkms virtualbox-guest-utils virtualbox-guest-x11
Por fim, reinicie a VM para concluir a instalação.
Você deve obter resoluções mais altas usando as adições de convidado fornecidas pelos pacotes.