Uma das possíveis razões pelas quais você está tendo esse problema é devido a uma falha no driver da placa de vídeo. O primeiro passo seria instalar o driver mais recente (removendo completamente o driver atual e instalando o driver mais novo disponível). Se continuar a funcionar mal após uma atualização, reverta para um driver muito mais antigo, pois alguns novos drivers são um pouco problemáticos. Se alterar as versões do driver de vídeo não ajudar, o próximo passo seria garantir que o cartão não está superaquecendo. Você pode fazer o download do cpu-z e do gpu-z (ambos gratuitos) para ficar de olho nos tempos da placa de vídeo.
Você também pode tentar executar um teste de estresse da GPU para baixar FurMark (grátis) Execute o teste até que a temperatura da GPU seja maximizada - ou até você começar a ter problemas (o que ocorrer primeiro)