Eu tenho dificuldade em entender o que você quer, mas se você fez um arquivo tar de todo o seu sistema eu acredito que você fez um arquivo tar muito grande que não tem um propósito real, a menos que você restaure completamente o arquivo tar. Se você quisesse salvar seus próprios documentos, deveria ter feito um backup desses documentos e nada mais.
Depois de dizer que o tar tem várias opções bacanas ...
--keep-old-files
Isso não substituirá os arquivos existentes.
--keep-newer-files
Isso manterá todos os arquivos que tenham um registro de data e hora mais recente.
--no-overwrite-dir
Isso deixará os metadados de um diretório existente como está.
Um manual para tar pode ser encontrado aqui .
Mas aconselho a extrair o arquivo tar em outra mídia e restaurar manualmente esses arquivos. É o método mais seguro.