Ao criar um USB inicializável, você provavelmente desejará dar persistência, ou seja, suas configurações e arquivos serão salvos entre as inicializações. Se você não tiver isso, ele será completamente redefinido a cada vez. Uma rápida pesquisa no Google sobre a persistência com um USB ao vivo produzirá muitas informações. Eu também sugiro montar seu disco rígido ao executar a partir da unidade flash e salvando seus arquivos para o disco rígido.
Ei e se você realmente começar a amar o Ubuntu (o que você vai) considere fazer seu laptop com inicialização dupla. Também há muitas informações sobre isso se você usar o Google.