Você está usando um cabo DVI de link único. Isso não é suficiente para 2560 × 1440 @ 60Hz:
Single link DVI employs a single 165 MHz transmitter that supports resolutions up to 1920 × 1200 at 60 Hz.
( Wikipedia )
Você precisará obter um cabo de link duplo. O IIRC não tem como detectar o tipo de cabo, então o monitor simplesmente não recebe todos os dados, resultando em uma imagem corrompida.