link tem um guia para instalar o SSH usando o debootstrap. Há um exemplo de serverfault, link , de alguém fazendo um similar processo. Sua ideia de testar o processo em uma VM primeiro faz muito sentido.
Em geral, para pacotes / aplicativos específicos, você pode usar sudo apt-get purge $PKG-NAME para remover um pacote deb e todos os seus arquivos de configuração - às vezes o apt-get se recusa a remover arquivos de configuração que foram alterados ou diretórios com outros arquivos não instalados . Eu uso updatedb; locate -e -i $APP-NAME para encontrar esses arquivos. Depois de removidos e os arquivos de configuração terem sido removidos, instale cada aplicativo novamente.
Outra opção é usar sudo aptitude (uma interface de gerenciamento de pacotes para o apt-get), por exemplo, selecionar todos os aplicativos instalados e optar por removê-los (pressione "-" quando na linha "instalada" da tela principal) ("/") ubuntu-desktop (ou o seu meta-pacote preferido) e adicione-o ("+" quando o pacote estiver destacado). Agora, "g" leva você para a tela de instalação para revisar as alterações do pacote e "g" novamente as confirma. Isso não removerá os arquivos de configuração, mas dpkg-reconfigure pode ser usado para executar os scripts de instalação dos pacotes e retorná-los aos padrões.