Abrir terminal: CTRL + ALT + T
Instale estes Pacotes de Adição de Convidados:
sudo apt-get install virtualbox-guest-dkms virtualbox-guest-utils virtualbox-guest-x11
Certifique-se de colocar sua senha de usuário sudo e os pacotes estão instalados corretamente. Depois que a instalação for concluída. Reinicie sua VM
Se o problema persistir ... Experimente:
Go to System settings -> Software and Updates -> Additional drivers
Use x86 virtualization solutions...
After that reboot your virtual box
Fonte: Problema de resolução de tela com o Ubuntu 14.04 e o VirtualBox
Depois de fazer isso, se você ainda tiver a mesma resolução:
Abra o terminal CTRL + ALT + T (tecla de atalho) digite terminal:
xrandr -s 1024x768
Ele definirá sua resolução de tela para 1024x768