especificação Radeon HD 6870
Max Resolution Details DVI: 2560 x 1600 / DisplayPort: 2560 x 1600 / HDMI: 1920 x 1080 / VGA: 2048 x 1536
Conclusão
Nem VGA nem HDMI < versão 2.0 não são capazes de fornecer tal resolução.
Você precisa se conectar através do DisplayPort para fazer isso.