O problema é físico: o processador + GPU está produzindo mais calor do que o laptop pode dissipar e, por isso, está superaquecendo e, por fim, travando. (A falha parece que o notebook está causando um desligamento excessivo ou está realmente travando devido à corrupção de dados induzidos por superaquecimento? Em outras palavras, ele é desligado completamente quando fica muito quente ou você vê falhas gráficas ou algum outro comportamento estranho?)
As únicas soluções de software para isso seriam restringir a produção de calor, o que significaria restringir o desempenho do sistema. Por exemplo, você pode usar cpufreq set ou cpupower frequency-set com as opções apropriadas para limitar a freqüência máxima do clock da CPU e usar o nvidia-settings para definir a GPU para um nível de desempenho mais baixo.
Uma correção real provavelmente seria física: para começar, certifique-se de que nada esteja bloqueando os slots usados para resfriar o ar e limpe-os se eles estiverem entupidos com poeira. Como se trata de um notebook, abri-lo e limpá-lo mais completamente não é tão fácil como nos sistemas desktop, e provavelmente anularia a garantia se ainda estiver em vigor.
Se o notebook ainda estiver na garantia, recomendo entrar em contato com o suporte do fornecedor e descrever o problema. Pode ser que o dissipador de calor não esteja em bom contato térmico com o processador e / ou com a GPU, e o notebook precisa ser aberto para que o dissipador de calor seja recolocado apropriadamente.
Se você começar a pensar em abrir o notebook você mesmo, tenha muito cuidado e tente encontrar o máximo de informações possível da Internet primeiro, já que o interior de um notebook é um pouco mais frágil do que as partes correspondentes. em um desktop normal. Um vídeo do Youtube que mostra as etapas e técnicas necessárias para o seu modelo específico seria um ótimo achado. Um manual de serviço do fornecedor de hardware também seria bom; no entanto, nem todos os fornecedores disponibilizam manuais de serviço gratuitamente.