Parece que os problemas de software não foram de todo descartados. Vírus, spyware e apenas o desafortunado mas inevitável lixo que se acumula em uma máquina rodando basicamente qualquer sistema operacional ao longo do tempo tendem a causar todos os tipos de problemas, incluindo todos os que você descreveu. Enxugar todo o seu sistema operacional é um passo drástico, então eu recomendaria pegar um LiveCD para uma grande distribuição linux como o Kubuntu ou o SuSE e ver se funciona sem nenhum tipo de erro. O Linux geralmente fornece mensagens de erro bastante descritivas (tente digitar o dmesg em um console) em busca de problemas de hardware, portanto, se o hardware falhar, você poderá obter algumas dicas adicionais também.
Além disso, como a NoCarrier perguntou, se você tem feito algum overclock, você deve definitivamente considerar diminuir o volume.