Um aplicativo que pode se adequar ao seu objetivo é o Unison. Ele é explicitamente projetado para manter duas árvores de diretório em sincronia, com alguns extras, como excluir arquivos da sincronização. Está disponível no repositório Debian (não tenho certeza sobre distribuições baseadas em RPM, mas você pode ter sorte).
O Git pode fazer o truque, mas ele vem com vários tipos de sobrecarga. Primeiro, você precisa confirmar tudo o que quiser, sempre que sincronizar. Então, o git mantém um histórico completo de todas as versões de arquivos que você já cometeu, exigindo mais espaço em disco.