PSU causaria falha, mas não impõe um limite de resolução.
Eu suspeito que o seu problema é a interface. VGA não suporta 4k. DVI-D suporta 2560x1440, HDMI 1.4 suporta 2560x1440. A resolução máxima é a resolução máxima que a GPU pode suportar, a placa requer links duplos para a exibição para implementá-la. Uma interface HDMI2.0 (nova) ou DisplayPort pode gerenciar 4k.
Atualização: Da folha de especificações da Nvidia: * - 3840x2160 a 30Hz ou 4096x2160 a 24Hz suportado por HDMI. 3840x2160 a 60Hz suportado em DisplayPort