Para fazer o que você está pedindo, você precisará criar uma unidade USB persistente. link
Lembre-se que se você quiser instalar o Steam também, provavelmente terá um flash drive de 64GB ou maior, e também precisará formatá-lo inicialmente no formato FAT32.