Instale o xorg completo, além do suporte a virtualbox (talvez seja necessário reinicializar depois disso):
pacman -S xorg virtualbox-guest-utils
Se você realmente quiser usar o startx, será necessário alterar o ~/.xinitrc
para iniciar o blackbox
ou instalar o antigo twm
em vez disso.