Simplificando, você pode sim. Eu mantenho um stick de 16GB 'live usb' no meu chaveiro, por essa mesma razão. O único problema que eu corri para é inicializar a partir do USB você tem que reiniciar o computador e em alguns lugares públicos, o é desaprovado.