Parece-me que o que você está querendo alcançar é exatamente o modo como o BackupPC funciona. Veja o link
Você pode instalá-lo no Ubuntu usando
sudo apt-get install backuppc
Observe, entretanto, que a instalação padrão não faz nada por conta própria. Você terá que criar arquivos de configuração para cada máquina e / ou diretório que você deseja fazer backup.
A maneira como o BackupPC funciona é transferindo uma cópia dos arquivos no primeiro backup e, em backups subsequentes, cria links físicos para os arquivos inalterados e copia os alterados. SO para o seu sistema de arquivos, quando você navega para o diretório de backup do BackupPC, você tem um instantâneo da maneira como os arquivos pareciam em um determinado momento.
Consulte o link ou instale o backuppc em seu sistema e leia os documentos nele.
Veja como instalá-lo (o processo pode variar em versões mais recentes): Como configurar o Backuppc no Ubuntu 12.04?
Cuidado com problemas com diferentes sistemas de arquivos em diferentes sistemas (Windows / Linux / Macintosh). Além disso, as diferenças na maneira como o volume de backup é conectado entre o host e os clientes de backup (unidade de rede versus unidades locais, por exemplo) terão um efeito enorme no tempo necessário para concluir um backup.