Eu acho que o que você quer é chamado de Ubuntu Core .
O Ubuntu Core é um rootfs mínimo para uso na criação de imagens personalizadas para necessidades específicas. O Ubuntu Core se esforça para criar um ambiente mínimo adequado para uso em Pacotes de Suporte da Diretoria, ambientes restritos ou integrados, ou como base para imagens demonstrativas de aplicativos. Está disponível para as arquiteturas i386, amd64 e armel.
Veja um exemplo de criação . Espero que isso ajude.