Você pode ter o cabo errado, se você tiver apenas um cabo DVI de "link único", a sua resolução máxima será 1920 * 1080 (já vi monitores que não relatam essa resolução). Para 2560 * 1600, você precisa de um cabo DVI de link duplo.
De esta página :
The dual link DVI pins effectively double the power of transmission and provide an increase of speed and signal quality; i.e. a DVI single link 60-Hz LCD can display a resolution of 1920 x 1200, while a DVI dual link can display a resolution of 2560 x 1600.
Para referência: