Você pode instalar no flashdrive. Mas, eu recomendo criar duas partições no flashdrive, uma segurando o sistema operacional Live e outro formatado com ext4, mantendo os dados.
Você pode criar uma partição ext4 usando o Live Ubuntu. Inicialize o Live Ubuntu e inicie o programa gparted
para criar uma partição.
Você pode querer primeiro usar um flash drive menor para usar o Boot to Live Ubuntu, então quando estiver na Live Session, insira o maior flash drive e crie duas partições lá.
Crie a primeira partição em torno de 800MB e use o espaço restante para a partição de dados.