Instale o GPU-Z e o Core Temp para monitorar suas temperaturas, porque parece que você tem um problema de superaquecimento. Mantê-los na tela para que você possa ver quais são as temperaturas; verifique com frequência ao fazer o que você normalmente faz para causar o problema.
A placa-mãe matará a energia do sistema se sua GPU atingir 95C (de acordo com as especificações da GTX770), ou se a CPU atingir o valor Tj Max
listado no CoreTemp.
Se as temperaturas estiverem chegando perto desses valores, você deve começar limpando a poeira do sistema. Certifique-se de que os fãs estão trabalhando e não estão entupidos. O ar comprimido é muito útil para isso (mas segure os ventiladores para que eles não girem descontroladamente ao usar ar comprimido neles - isso pode danificá-los se você não o fizer!)
Se você limpou o estojo e os componentes, e não está no meio do Saara, e parece haver um bom fluxo de ar saindo dos gases de escape para a GPU, talvez seja necessário rever o dissipadores / coolers para a GPU e CPU. Se você não estiver familiarizado com isso e não confiar em si mesmo, encontre um amigo que saiba ou leve-o à sua loja local e diga que seu sistema está superaquecendo e que você acha que o dissipador de calor precisa ser recolocado.
Dado que você trocou as GPUs, e o fato de que isso acontece tanto quando você está jogando quanto quando você não está, eu suspeito que seja a CPU que está superaquecendo. Também é possível que a placa-mãe esteja superaquecendo ou tenha uma falha.