O xorg funciona muito estranhamente sem configurações de resolução específicas dentro do /etc/X11/xorg.conf
Você precisa colocar as resoluções específicas e elas funcionariam perfeitamente.
Aqui está como eu configurei meu xorg.conf e você pode usar isso como um guia para você (pesquise no google por sua resolução) ou por um curto período de tempo você pode fazer o backup do seu e usar este, mas ele permitirá que você use uma resolução máxima de 1024x768 @ 60Hz (eu amo este xorg.conf):
Section "InputDevice"
Identifier "Generic Keyboard"
Driver "kbd"
Option "XkbRules" "xorg"
Option "XkbModel" "pc105"
Option "XkbLayout" "ro"
EndSection
Section "InputDevice"
Identifier "Configured Mouse"
Driver "mouse"
EndSection
Section "Device"
Identifier "Configured Video Device"
EndSection
Section "Monitor"
Identifier "Configured Monitor"
Modelname "Custom 1"
modeline "640x480@60" 25.2 640 656 752 800 480 490 492 525 -vsync -hsync
modeline "800x600@60" 40.0 800 840 968 1056 600 601 605 628 +hsync +vsync
modeline "1024x768@60" 65.0 1024 1048 1184 1344 768 771 777 806 -vsync -hsync
EndSection
Section "Screen"
Identifier "Default Screen"
Monitor "Configured Monitor"
SubSection "Display"
Depth 24
Modes "1024x768@60" "800x600@60" "640x400@60"
Modes "800x600@60" "640x400@60"
EndSubSection
EndSection