Você pode tentar começar apenas com a imagem mínima do Ubuntu , encontrada aqui. A partir do ISO de 10Mb, você terá flexibilidade suficiente para manter o tamanho o mais baixo possível.
O Jeos (Just Enough OS) foi descontinuado agora - só está disponível na versão 8.04 antiga. Este documento , destacado por Marcello Nuccio nos comentários abaixo, demonstra que a própria Jeos agora é substituído por uma combinação de uso do vmbuilder e da instalação mínima. Frase: "Com o vmbuilder, não há necessidade de baixar um ISO JeOS mais".