Eu notei que você tem uma CPU desbloqueada; é overclock? Em caso afirmativo, tente redefini-lo de volta para a velocidade do clock original. Além disso, é possível que exista um problema com o controlador de memória na placa-mãe ou com a fonte de alimentação.
Se é a placa-mãe (controlador de memória), então vale a pena RMA'ing a placa. Para verificar isso, você precisará de outra memória para testar primeiro. Porque esta é geralmente a maneira mais barata, eu recomendaria isso primeiro. Se faz a mesma coisa, sabemos que não é memória.
Para a fonte de alimentação, é complicado, a menos que esteja completamente morto. Tente a fonte de alimentação em outro computador, se puder, com memória DDR3 e a mesma placa gráfica