Para definir a resolução como 1366x768, por exemplo:
Vá para C: \ Arquivos de Programas \ Oracle \ VirtualBox e execute o seguinte comando, em seguida, reinicie a máquina virtual:
VBoxManage.exe setextradata global GUI/MaxGuestResolution 1366,768
Isso definirá a resolução para todos os sistemas operacionais convidados.