Sim, você pode criar uma unidade ativa persistente. Você pode usar a ferramenta mkusb para esse fim. Veja estes links
help.ubuntu.com/community/mkusb
help.ubuntu.com/community/mkusb/persistent
Experimente o Ubuntu (Kubuntu, Lubuntu, Xubuntu, ...) antes de instalá-lo