Parece que você precisa de uma modelagem personalizada para o seu monitor (Basicamente, uma "saída" personalizada). Ou isso ou seus drivers não estão funcionando corretamente ... Eu tive esse problema com um monitor antigo e um modeline personalizado ordenou imediatamente: P
Você pode adicionar a modelina de resolução nativa (1920x1080_60.00?) e, em seguida, deve poder alternar para ela, qualquer outra resolução provavelmente precisará de uma também ... O EDID pode estar com alguns monitores. : (
Como definir uma resolução personalizada?
^ Alguém postou um guia aqui: D