Você pode torná-lo persistente. Utilitários como o Startup Disk Creator e o Unetbootin permitem que você crie uma unidade USB persistente. Em tais sistemas, as alterações feitas, como a instalação de pacotes, drivers etc., são preservadas nas reinicializações.
No Criador de discos de inicialização:
Selecione um espaço de armazenamento razoável, como 2 GB. Em seguida, use-o em um sistema com uma conexão de rede e instale os drivers.
Outra opção é personalizar a imagem ao vivo: Como personalizar o Ubuntu Live CD?