Eu verificaria estas coisas:
- Tente um monitor diferente, se você tiver outro que suporte a resolução do problema. Ou se você tiver outro computador, pode testar esse monitor na resolução do problema.
- Reinstale seus drivers de gráficos, caso eles sejam corrompidos.
- Verifique os cabos DVI / VGA / HDMI e, se necessário, coloque novamente a placa gráfica.
Mais do que provável, se você verificou tudo, é um problema de driver. Especialmente se ambas as placas gráficas que você tentou foram ATI, já que elas usam os mesmos drivers do Catalyst.