Tenho certeza de que isso foi perguntado antes, já que um live-usb é uma maneira perfeita de fazer isso.
Mas de qualquer maneira.
Depois de criar o live-usb, você poderá inicializar o sistema acessando as opções de inicialização durante a inicialização da máquina. (Normalmente introduzido por golpear o ESC, F11 ou F12 durante o processo de inicialização) e inicializar a partir do USB. Então você simplesmente vai ao Meu Computador ou qualquer outra coisa e age como se estivesse abrindo um pendrive, apenas clicando no disco rígido, e ele deveria permitir que você entrasse no disco rígido. A partir daí, basta ir para a pasta Usuários, ou o que for semelhante, e tirar os arquivos que você precisa e colocá-los onde quiser.
Se você não tiver a persistência ativada em seu live-usb, esses arquivos não serão salvos nas inicializações (eles desaparecerão após o desligamento do sistema). Olhe para a persistência ou encontre outro dispositivo de memória antes de inicializar!