Problemas como esse geralmente são causados ou relacionados a componentes superaquecidos. Tente fazer um log, enquanto o jogo é executado com um programa como SpeedFan (você pode encontrar o login em Configure > Log ) de suas temperaturas de CPU e GPU, especialmente. Se esses números parecerem altos, eles podem ser a causa do seu problema. Se a CPU estiver superaquecendo na freqüência / tensão do estoque, isso pode significar que o dissipador de calor não está adequadamente preso, ou o TIM não interage adequadamente com o dissipador de calor da CPU e o dissipador de calor. Nesse caso, reconfigure o dissipador de calor e atualize o TIM. Se a GPU parece estar superaquecida, tente downclocking (sim, a frequência tem um efeito sobre a temperatura), e se você quiser também pode tentar undervolting, mas eu não recomendaria a menos que você saiba o que está fazendo.
No entanto, acho que o mais provável é que você tenha um overclock de GPU instável. O que você fez para testar a estabilidade dos relógios que você está usando?