Você não pode ter uma resolução personalizada sem os drivers adequados.
Experimente os drivers estáveis mais recentes. Ou percorra os arquivos do driver e teste cada um deles.
Se você estiver usando uma máquina de marca (HP, etc). Baixe o driver do OEM, não o fabricante da placa de vídeo.
Em seguida, experimente o CD que acompanha a máquina / placa de vídeo.
Se isso não funcionar, tente o site do fabricante da placa de vídeo. (ATI)
Remova o Catalyst Control Center e instale o driver ATI.
Verifique no site da AMD se existe algum hotfix disponível para o seu cartão.