Primeiro, verifique se você instalou as adições de convidado do VirtualBox.
Então, pelo menos em um host Mac OS X, você pode simplesmente redimensionar a janela e o tamanho será alterado no sistema operacional convidado. Ou você deve conseguir acessar mais tamanhos com as adições de convidados.