siga estas instruções
tente;
1. limpeza
faça o login como usuário para o console
pacman -Q | grep box
sudo pacman -R
de todas as suas coisas atuais no VirtualBox
2. reinstalar
sudo pacman -Syy
sudo pacman -S virtualbox-guest-utils
selecione virtualbox-host-modules-arch
então o bit mais importante;
sudo systemctl enable vboxservice
sudo reboot
faça o login então startx
ainda tem problemas?
lsmod
e verifique se os módulos listados no arch wiki estão carregados. especialmente vboxvideo
desinstalar e tente novamente com o DKMS
tente sudo pacman -R virtualbox-guest-utils
e veja se o xfce será iniciado. se faz, mas a janela é a resolução estática, então provavelmente algo que falta com o vídeo. Certifique-se de não ter instalado drivers Intel ou algo como parte de uma instalação física do computador que possa estar interferindo.
ainda nada - comece a cavar nos logs. a mensagem de erro que você vê se referirá a um Xorg.0.log
que valerá a pena dar uma olhada, e o seu dmesg por qualquer erro com drivers na inicialização.
espero que isso ajude.
edit: pacote desnecessário removido.