Eu já vi isso antes e isso pode, de fato, ser um problema de RAM. Solucione isso tirando um stick de cada vez até que o problema desapareça. Também poderia ser uma conexão a cabo ou o monitor, ou até mesmo o próprio monitor. Eu investigaria essas duas possibilidades.