Considerando o que você tentou:
-
Na BIOS - verifique na seção de vídeo se há algo que implique em otimização de desempenho (é chamado Optimus em Dells, não tenho certeza do nome em MSIs). Se estiver, desative-o.
-
Para o Windows: instale-o através da imagem oficial do MS ISO. Uma vez instalado, force-o a atualizar completamente. Feito isso, obtenha o driver nV 378.49. Não instale nenhum outro driver neste momento. (Se o Windows não estiver de acordo com a sua instalação, porque ele usou um mais recente ao atualizar, você terá que remover o atual e, em seguida, instalar o 378.49, mas isso não deve acontecer por enquanto.)
-
Durante a etapa anterior, verifique se o cartão não está conectado a nenhum outro item externo (monitores, TVs).
Se o acima também não for bom, então restam duas opções: ou há um conflito entre a GPU integrada e a placa (encontrei isso algumas vezes e não há soluções reais neste momento - a NV terá que corrigir o conflito de driver - no seu caso ele se manifesta muito pior do que a média / BSOD / reinicia) ou o cartão é realmente ruim (caso em que você deve testá-lo em outro sistema).