Você pode usar:
apt-get install -d
Para baixar software e dependências sem instalá-los. Os arquivos .deb (praticamente equivalentes aos instaladores do .exe do Windows) são baixados para /var/cache/apt/archives/
A menos que você tenha emitido apt-get clean , praticamente qualquer coisa que você tenha instalado via apt-get deve ter os arquivos .deb armazenados lá.
Além disso, você pode instalar os arquivos .deb via dpgk -i , mas você precisa se lembrar de instalar as dependências (e suas dependências e assim por diante), primeiro. Ou você também deve ser capaz de clicar duas vezes em um arquivo .deb no seu navegador de arquivos e o Centro de Software deve cuidar disso para você.
Por exemplo: Eu quero instalar o gedit (que é incluído no Ubuntu normalmente para que ele não baixe toneladas de arquivos .deb de dependência). Mas eu tenho um sistema que, por qualquer motivo, não tem gedit e não tem conexão com a internet.
Primeiro, em um computador conectado à Internet, corro apt-get install --reinstall -d gedit (porque se você tentar executar apt-get install -d gedit em um sistema com o gedit já instalado na versão mais recente, ele apenas informa que ele já está instalado), em seguida, passa pelo processo normal de baixar o pacote (neste caso, não há dependências) e, em seguida, pára.
Depois, localizo o arquivo em /var/cache/apt/archives/ ...
... e mova-o para o computador que precisa do gedit instalado e instale-o, neste caso usando o Centro de Software.
Ou eu poderia instalá-lo usando cd /var/cache/apt/archives e dpkg -i gedit_3.10.4-0ubuntu4_amd64.deb