Faça backup apenas de /home (arquivos e configurações do usuário) e /etc (configurações do sistema) - tudo o mais pode ser restaurado, reinstalando o Ubuntu e instalando o software dos repositórios.
Se você tiver editado manualmente qualquer outro local (isso inclui a instalação do software usando outros métodos além do gerenciador de pacotes), você precisará fazer o backup deles também.