Isso é muito difícil de responder, já que sua pergunta é ampla, mas pode ser de energia, pode ser uma falha na porta, pode ser uma placa gráfica defeituosa.
Tente um cabo DVI diferente.
Tente apenas conectar DVI (não VGA) para que apenas 1 cabo esteja conectado.
Experimente um monitor diferente
Tente emprestar outra GPU
Tente colocar sua GPU em outra máquina