Você não deve tentar testar a RAM durante a execução do Linux e a memória virtual está ativa. Outra razão é que o kernel irá bloquear a memória que ocupa, para que a RAM nunca seja testada.
A RAM precisa ser testada antes que o kernel do Linux seja carregado e executado.
O U-Boot tem um testador de memória e suporta uma variedade de arquiteturas.