É possível fazer. Você começa continuando. a sua instalação do Ubuntu no seu computador normalmente, até chegar a esta tela:
Em seguida, tik Something else e continue.
Agora, nesta tela, você verá que o instalador lista seu disco rígido e seu USB. O nome do seu USB deve ser dev/sda2 . Alternativamente, você pode ver que ele mostrará na barra de espaço livre a unidade com a quantidade correspondente de espaço.
Selecione sua unidade na lista de dispositivos e, novamente, na lista que diz Device for boot loader installation e clique em Install now
Você agora estará instalando o Ubuntu em um USB. Uma coisa a notar, eu vou demorar pelo menos três vezes, desde que é para instalar em uma unidade USB, que em um disco rígido.
Claro, isso dependerá se você estiver usando USB 2.0 x USB 3.0, assim como a marca, já que algumas unidades são mais rápidas do que outras. Seja paciente.
Outra coisa, rodar o Ubuntu a partir de um USB será novamente, pelo menos três vezes mais lento que o normal, então eu evitaria processos que exigem muitos recursos.
Com isso dito, divirta-se.