Tente definir uma resolução personalizada no xorg.conf. Você já deve ter um, e se não, use isso. Certifique-se de que sua subseção: Display tenha a resolução correta. Eu tive um problema com a resolução do monitor quando eu usei um adaptador DVI para VGA, esses adaptadores podem remover dados EDID. O monitor envia os dados EDID para o computador para informar quais resoluções podem suportar.
Section "Screen"
Identifier "Default Screen"
Device "NVIDIA Corporation NV34 [GeForce FX 5200]"
Monitor "CM752ET"
DefaultDepth 16
SubSection "Display":
Depth 16
Modes "1280x1024" "1024x768"
EndSubSection
EndSection