Como Brian Sizemore disse, a maioria dos softwares vem em um instalador, como um .deb. Felizmente, o apt-get vem com uma opção para baixar o software sem instalá-lo! primeiro, abra um terminal ctrl + alt + t e use o comando apt-get download "name of software" (substitua "nome do software pelo nome do software") e ele fará o download do software para o seu computador em seu computador. diretório inicial. a partir daí, você pode movê-los para uma unidade flash. depois, quando quiser instalá-los, basta abrir os arquivos no drive flash.
NOTA: a maioria dos programas tem dependências. ou seja, você precisa instalar outros programas primeiro. então, se ele disser que você tem dependências não satisfeitas, apenas repita o processo com o nome das dependências