Primeiro, tente ver se o mesmo problema aparece se você inicializar o live cd do Ubuntu. Se sim, tente alguns outros módulos RAM, às vezes eles podem ir mal e se sua placa gráfica compartilha a memória com o seu sistema, problemas como o seu aparecem ...