Para responder rapidamente à sua pergunta: uma GPU pode produzir erros que não são fatais para o sistema. As causas podem incluir fonte de alimentação instável, RAM de vídeo defeituosa, problemas de driver, erros de programação, problemas de barramento PCI-E, etc.
Embora seus sintomas possam ser causados por uma fonte de alimentação que não consegue acompanhar, é muito mais provável que algo esteja funcionando, especialmente se o resto do sistema estiver funcionando bem. Lembre-se de que os valores máximos de consumo de energia raramente são atingidos, a menos que você esteja colocando cargas sintéticas irrealistas no hardware (por exemplo, Furmark).
Lembre-se de que executar cálculos em GPUs é bem diferente e pode causar resultados diferentes ao trabalhar com cálculos de ponto flutuante. Eu não sou especialista nesse assunto.