Eu posso pensar em algumas coisas. Primeiro, se a quantidade de tempo até que o travamento esteja diminuindo enquanto você liga a máquina, isso pode significar que a temperatura é o seu problema. Se você está fazendo overclock, eu começaria desabilitando isso, e se você não limpou o caso recentemente, provavelmente é hora de limpar os coelhinhos para ver se isso ajuda. Estou sempre impressionado com a quantidade de poeira acumulada nas aletas de dissipação de calor no dissipador de calor do meu processador.
Quanto ao memtest, você deve executar o DOS ou algum outro sistema operacional. Eu acredito que as versões mais recentes do Windows vêm com um utilitário memtest baseado em DOS que pode ser acessado na inicialização do CD. Caso contrário, não deve ser difícil fazer o download e criar um CD de inicialização. Se o seu computador não puder passar memtest do DOS, então você tem memória ruim ou um problema com a energia térmica. Você pode tentar reposicionar os bastões e, possivelmente, desabilitar a memória multicanal para ver se há algum tipo de problema com ela descascando. O fato de seu sistema funcionar por um determinado período de tempo não soa como memória, no entanto.
Como outros já sugeriram, pode ser uma coisa esquisita de poder / sono, então você pode tentar desabilitar completamente o gerenciamento de energia na BIOS para ter certeza de que não é o caso. Eu tive muitos sistemas que não dormem corretamente ou não retornam, então eu geralmente desabilito todo aquele lixo ecológico logo de cara. Eu adoraria economizar energia, mas isso nunca funciona nos PCs.
Finalmente, o fato de você não conseguir obter um core dump depois de configurá-lo para produzir um sugere que a falha não está relacionada ao sistema operacional, mas sim relacionada a hardware. Eu ficaria realmente surpreso se fosse algo diferente de térmica / energia.