Acho que resolvi o mesmo problema -
Minha TV não aceita valores > 1280 x 800 (ou próximo) em um conector VGA. Eu tive que usar um conector HDMI para obter valores mais altos. Essa limitação foi imposta no monitor relatando apenas um subconjunto das resoluções que ele suporta através do cabo VGA.