O tamanho é menos importante que a resolução. Sem saber o que é a placa gráfica específica, é muito difícil dizer. Eu poderia facilmente executar uma tela de plasma de 50 "a 800x600 de um XT, e eu precisaria de pelo menos uma placa de cartão de alcance médio de 3 gerações atrás para uma exibição de 4k de qualquer tamanho.
Olhando para as especificações , parece que deveria mal poder ser executado 2 2560x1600 é exibido. Eu consideraria algumas possibilidades - um dos controladores de saída está com defeito, o cabo está com defeito ou há algum outro gargalo. O DVI de link duplo certamente deve ser capaz de lidar com a resolução, assim como os conectores mais modernos.
A atualização certamente ajudaria se isso é para mitigar um cartão fraco ou com defeito, não tenho provas suficientes para contar.
Com um sistema mais moderno ou com a configuração certa, você pode usar uma combinação de gráficos integrados e discretos (ponte arenosa em diante) ou mais de um cartão. Depende da sua configuração e drivers tho.