Seu Ubuntu Mate USB deve ter a persistência ativada. Isso só pode ser feito no momento da transferência do iso para o USB no meu conhecimento.
Tente transferir novamente o iso usando o criador Unetbootin / Linux Live USB e selecione Persistência (com pelo menos 512 MB) nas Opções.