Para aqueles que têm vontade de comentar sobre esta resposta ou mesmo sobre votos negativos, por favor, leia-a na íntegra e confira os links antes de fazê-lo. A crítica construtiva é, de qualquer maneira, bem-vinda, mas eu não gosto de colocar em campo comentários que já estão cobertos pela resposta em si. Obrigado.
Parece que sua fonte de alimentação atual está subestimada para a carga que você está colocando nele. Como você descobriu, o PSU pode fornecer um máximo de 24 A no único 12 V rail (288 W), enquanto a GTX 770 supostamente (de acordo com o comentário do OP) precisa de 42 A a 12 V (504 W); @davidgo encontrou um TDP de 230 W para a própria GPU , que vai bem com os números publicados no Tom's Hardware dizendo que cerca de 250 W é necessário . O desenho da placa de vídeo "apenas" 250 W ainda deixaria muito pouca margem para qualquer outra coisa em 12 V quando a placa de vídeo está trabalhando muito. As coisas que funcionam com 12 V são geralmente aquelas com motores: discos rígidos de ferrugem giratória (clock de cerca de 10 W cada, quando funcionam, mais na inicialização), ventiladores e (como você descobriu) alguns eletrônicos de alta potência. Para evitar problemas piores, incluindo curto-circuitos, a fonte de alimentação pode muito bem ser projetado através de uma viagem de corrente ou térmica para desligar em caso de sobrecarga .
Como este é um cartão que você aparentemente adicionou, você não deve esperar que o PSU fornecido seja dimensionado para lidar com essa carga. Tenha em mente que o consumo de energia ocioso típico de um computador de mesa é de 60 W e, no ordem de duas vezes que pode ser um valor razoável para um computador bastante típico (exceto o monitor) sob carga.
Você deve procurar por uma fonte de alimentação que seja classificada para a carga necessária no rails . Como você precisaria fornecer pelo menos 50 A em 12 V (600 W sozinho) para garantir energia suficiente para a placa gráfica, se ela realmente consome 500 W, você estar olhando fontes de alimentação pelo menos na faixa de 800 W e acima. Se a placa gráfica for da ordem de 250 W, você poderá facilmente usar uma PSU de 500 W. O que é mais importante (mais do que a classificação total da potência) é prestar atenção às amperagens nos diferentes trilhos e às exigências da sua placa gráfica e através da placa-mãe a CPU (desde que dois de longe consomem a maior parte da energia, a menos que você tenha um número insano de outros equipamentos no computador) para não acabar com outra fonte de alimentação que apresente o mesmo problema.