Live with persistence:
Você tem a portabilidade de mídia ao vivo com uma pasta home e possivelmente outro armazenamento temporário
Live sem:
Portabilidade, mas não salvou nada
LiveUSB com persistência:
Menos vida fora do USB (um monte mais leituras), mas muito semelhante a 1
LiveUSB sem persistência:
Menos vida fora do USB (um monte de mais leituras), mas muito semelhante a 2
Instalação completa:
Obviamente, uma instalação completa no USB se traduziria em vida útil mais curta, já que aumentaria drasticamente o número de leituras e gravações.