Acho que você acertou na cabeça quando disse que o aquecimento do sistema poderia ser o problema. Especialmente como você costumava usá-lo em níveis mais altos de detalhes e agora é bastante sensível a aplicações mais exigentes.
De cnet - Resumindo os problemas da Nvidia com superaquecimento de chips de notebook :
"Certain notebook configurations with GPUs and MCPs manufactured with a certain die/packaging material set are failing in the field at higher than normal rates. To date, abnormal failure rates with systems other than certain notebook systems have not been seen."
Há toda uma série de possíveis sinais de problemas e para mim o seu aponta para algum tipo de falha no lado do controlador de memória na sua GPU, basicamente faltando dados.
Você pode achar que seus problemas são minimizados se você mantiver o cooler do laptop e usar o tipo de resfriamento, mas isso seria apenas uma correção a curto prazo.
A única correção real seria se você conseguisse que a Dell honrasse algum tipo de reparo de garantia. Parece que, de acordo com esse artigo, a Dell ofereceu algum tipo de garantia estendida, mas você teria que contatá-los para descobrir.