Digamos que você tenha um diretório config localmente que corresponda a um diretório config em seu dispositivo e faça alterações apenas localmente antes de sincronizá-las com o dispositivo, então rsync é uma boa ferramenta para executar o sincronizar.
Para sincronizar o diretório local com o diretório do dispositivo:
$ rsync -av config/ [email protected]:path/to/config/
Para excluir arquivos no dispositivo que não estão mais presentes no diretório config local, adicione o --delete flag a rsync :
$ rsync -av --delete config/ [email protected]:path/to/config/
Troque config/ e [email protected]:path/to/config/ para fazer backup do diretório config do dispositivo para um diretório local (ficou um pouco claro em qual direção você queria ir na pergunta).