Eu acho que você está usando o Ubuntu como modo ao vivo com o seu pen drive, Primeiro de tudo você precisa fazer o seu drive flash inicializável Ubuntu com "espaço reservado" para armazenar sua instalação extra de software e arquivos do usuário!
[Ao inicializar a partir da sua unidade flash, documentos, software extra instalado, plug-in e configurações serão armazenados em um espaço extra reservado, mais você pode selecionar quanto espaço para permitir essa finalidade ao fazer um flash inicializável dirigir]