Eu tentei correr:
VBoxManage setextradata "Win81v2" "CustomVideoMode1" "2560x1600x32"
e adições de convidado instaladas. A resolução "2560x1600" é mostrada nas configurações de resolução no sistema operacional Windows, mas quando eu verifico isso, parte da área de trabalho não é mostrada (ela é estendida fora da área visível).
Estou executando o VirtualBox no Mac OSX High Sierra e o sistema operacional convidado é o 8.1.
Tags virtualbox mac virtual-machine