O memorytester é executado no sistema operacional, portanto, use uma API do sistema operacional para alocar o RAM e testá-lo. O Memtest86 roda sem SO e é muito pequeno e acessa diretamente a RAM.
Eu sempre usei o Memtest86, acho melhor e mais preciso para testar RAM