Você pode usar o unetbootin para criar sua unidade USB para que você possa definir um espaço usado para preservar arquivos em reinicializações
Se você não sabe nada do que é isso, então você pode definir 1024 significando 1 gigabyte para espaço extra para dar espaço para você brincar.
Para encurtar a história, se você tiver um disco USB com mais de 2 GB, você pode definir esse 1024. Se não, tente 100 ou algum valor que possa caber no USB junto com a instalação do Ubuntu (800 MB).