Bem, acho que depende do tipo de distribuição que você instalou no contêiner. Você instala o software usando o gerenciador de pacotes da distribuição do contêiner e, como eles dependem da rede, é melhor configurar a rede do contêiner.
Dito isto, há outra opção sem rede em que o contêiner usa os pacotes disponíveis no sistema "mãe" e os instala a partir daí.
A terceira opção é a usual "configure, make, makeinstall". Você pode baixar um arquivo de origem em seu sistema "mãe", copiá-lo para dentro do seu LXC rootfs (seu diretório home no seu contêiner, por exemplo), iniciar o contêiner e prosseguir com a compilação.
Bada-bing, bada-boom-você está pronto!
Então você pode simplesmente copiar o container pela rede ou simplesmente carregá-lo na sua unidade flash.
Por todos os itens acima, seus contêineres e seus correspondentes fs raiz estão localizados no var/lib/lxc . Para a última opção você pode simplesmente colocar quaisquer pacotes ou arquivos de origem do seu sistema host ali mesmo, iniciar o container e instalar (compilar) "stuffs" no seu tempo livre.
Também recomendo compactar um contêiner antes de movê-lo com tar.
ALÉM DISSO: se você insiste em não configurar rede no seu contêiner (pode ser cansativo inserir essa chave ssh repetidamente), inicie seu contêiner no modo daemon como sudo lxc-start -n containername -d e, em seguida, conecte-se a ele por meio de sudo lxc-attach -n containername . Isso é básico RTFM, mas lá vai você.