O memtest é normalmente executado separadamente em um kernel Linux (selecionado como uma opção de inicialização em vez do Ubuntu), embora você possa baixar um pacote memtest e executá-lo no Ubuntu com os seguintes comandos.
sudo apt-get install memtester
sudo memtester 1024 5
A execução separada para o Ubuntu permite um maior acesso à memória da máquina, sendo o método preferido.
Veja Como verificar erros na RAM via linux? para mais detalhes.