Esses problemas são relacionados ao seu problema:
Nestes eles estão dizendo que o seu arquivo xorg.conf não deve incluir nenhuma configuração de exibição específica para a resolução da tela. Eu tentaria adicionar / remover uma linha como essa no meu xorg.conf para confirmar:
Modes "1280x1024" "1024x768" "800x600"
Além disso, eu verificaria suas etapas de configuração com as descritas neste post:
etapas gerais
mkdir /media/VirtualBoxGuestAdditions
mount -r /dev/cdrom /media/VirtualBoxGuestAdditions
yum update kernel*
reboot
yum install gcc kernel-devel kernel-headers dkms make bzip2
Em seguida, defina essa variável:
## Current running kernel on Fedora, CentOS 6 and Red Hat (RHEL) 6 ##
KERN_DIR=/usr/src/kernels/'uname -r'
## Export KERN_DIR ##
export KERN_DIR
Instalar adições de convidados:
cd /media/VirtualBoxGuestAdditions
# 32-bit and 64-bit systems run following
./VBoxLinuxAdditions.run