Não importa o que eu faça, não consigo passar a resolução para 800x600. Se eu estiver usando uma instalação do Windows no VirtualBox, posso obtê-lo em 1024x768.
O que está me impedindo de fazer isso no Linux?
Você já instalou o VirtualBox Guest Additions no seu convidado? Se assim for, então o tamanho do convidado deve refletir o tamanho da sua janela do VirtualBox, por isso, se você maximizar o último, seu convidado deve redimensionar sua exibição de acordo.
Você também pode precisar ativar a opção Auto-resize Guest Display do VirtualBox (Host-G é uma tecla de atalho para isso).
Se a instalação de adições de convidados não resolver o problema, tente o seguinte:
sudo apt-get install virtualbox-ose-guest-x11
E mais algumas informações sobre o problema aqui: link
Tags virtualbox linux