Isso parece um "problema" de fonte de alimentação. Parece que o seu antigo cartão - o Nvidia GT 620 - tem um consumo de energia de até 49W . Poucos PCs têm um consumo de energia significativamente maior que 100W, sem GPU. Uma fonte de alimentação padrão de 200W cobre isso facilmente.
Eu não consigo encontrar as especificações exatas para o seu novo cartão, o AMD R7 260x, mas pelo que posso encontrar ele claramente tem um consumo de energia muito maior e requer pelo menos uma fonte de alimentação de 300W, talvez ainda maior - veja a caixa ou o manual para os requisitos mínimos. Em este teste , um sistema com o AMD R7 260x teve um consumo de energia de 221W (com cerca de 113W causado pela placa gráfica). Um PC com uma fonte de alimentação que não forneça mais de 200W deve desligar se isso acontecer. O teste vinculado também explica que a energia só é tirada quando a placa gráfica está sob carga, ou seja, quando você inicia um jogo que faz uso da placa gráfica.
Em sua pergunta, você afirma que está usando uma fonte de alimentação de 650 W, portanto, se tudo funcionar por design, isso não deve acontecer. Meu palpite é um problema com a fonte de alimentação, ou um problema com a energia fornecida para a fonte de alimentação (você está usando um no-break defeituoso? Você tentou uma tomada de parede diferente?). Também é possível que um de seus componentes consiga energia excessiva muito acima da especificação, mas se esse for o caso, normalmente é fácil sentir o cheiro dos resultados.