É mais provável que pareça um problema gráfico, se você tiver uma GPU antiga, basta substituí-la pela ATI e ver se ela faz a mesma coisa, se for, então é a placa-mãe, se não considerar tentar a GPU em outro sistema para verificar. Dessa forma, você pode economizar seu tempo se o problema não for com a GPU ou a placa-mãe.