1.Reinstale seu xserver e ambiente de desktop:
apt-get install aptitude tasksel
aptitude install xorg mesa-utils
tasksel install gnome-desktop --new-install
2.Você pode verificar o comportamento do xserver e os erros (permissões de acesso, drivers, etc.etc) configurando um arquivo de log:
startx &> ~/.Xoutput