O drive USB básico (e padrão) com o Ubuntu é um drive somente de live. Os arquivos que você criar serão armazenados na RAM, mas desaparecerão no desligamento e reinicialização.
Existem duas alternativas, um sistema live persistente com um arquivo ou partição casper-rw ou um sistema instalado (instalado como instalado em uma unidade interna). É possível instalar programas aplicativos, ajustar o sistema e salvar arquivos de uma maneira que sobreviva ao desligamento e reinicialização em tais sistemas (em drives USB).
Veja este link e links dele .