Você precisa de persistência.
A persistência não é apenas para arquivos do usuário, mas também para atualizações.
Você pode criar persistência em um Mac
Faça o download do Unetbootin e crie o liveUSB com ele.
A instalação não replica as atualizações
Quando você usa o liveUSB para instalar o Ubuntu, ele não instalará as atualizações feitas no sistema live.