Eu gostaria de continuar com a menção do rdiff pelo Tometzyk e sugerir o rdiff-backup . Ele mantém uma cópia espelhada do backup mais recente e salva o histórico como diffs reversos compactados. Aquelas vezes eu usei isso em despejos de banco de dados que eu lembro de ter escapado com um delta bastante bom (pequeno). Isto é, você tem seu mysqldump criando um novo arquivo com o mesmo nome de arquivo em cada dump, e então você executa o rdiff-backup naquele dump.
Ordiff-backup pode ser executado localmente (incluindo para uma montagem de rede), bem como em ssh. Sinta-se à vontade para consultar a página de exemplo do rdiff-backup para alguns cenários comuns de uso.