EDIT: O LinuxLive USB fará um trabalho incrível para isso.
Você pode criar um LiveUSB a partir de qualquer distribuição do Ubuntu (Server / Desktop). Você pode procurar no Wiki do Ubuntu, há uma solução passo-a-passo: LiveUSB .
Eu também encontrei um artigo para literalmente instalar um Ubuntu portátil em seu flashdrive: Como: Instalar o Portable Linux Ubuntu em uma unidade flash USB inicializável .
Com esses dois tutoriais, você deve ser capaz de fazer o que quiser.