Curto e doce -
O Live USB nada mais é do que rodar o Ubuntu como um Live CD. As alterações não serão salvas, etc, etc.
Enquanto você instala o Ubuntu em um USB, é como ter o Ubuntu instalado em um disco rígido!
Eu usei a segunda opção muitas vezes, e ela te dá o melhor sistema operacional portátil de todos os tempos!
Desempenho ... sim, ele ficará um pouco mais lento que o normal no USB 2.0
no USB 3.0 é rápido o suficiente, desde que você não o sobrecarregue com muitas instalações e dados.
Escusado será dizer que a sua esperança de vida USB será reduzida, pois haverá um número imenso de ciclos de Leitura / Escrita (ainda não é muito menos)
Sugiro-lhe uma instalação USB em vez de USB ao vivo.
Espero que você saiba o procedimento. Caso contrário, publique outra pergunta (para melhor compreensão para as pessoas que se referem depois) e você receberá um guia facilmente! :)
Obrigado:)