Não, rsync apenas sincroniza arquivos em uma direção. Pense nisso como uma versão inteligente e mais capaz de cp (ou mv se você usar a opção --remove-source-files ): inteligente no sentido de tentar pular dados que já existem no destino, e capazes de sentido que ele pode fazer algumas coisas cp não, como remover arquivos no destino que foram excluídos na origem. Mas no fundo, ele realmente faz a mesma coisa, copiando de uma fonte para um destino.
Como Patrick mencionado em um comentário, unison fará o que você está procurando, atualizando em ambas as direções. Porém, não é uma ferramenta padrão - muitos sistemas semelhantes a UNIX terão rsync instalado, mas geralmente não unison . Mas em uma distribuição Linux você provavelmente pode encontrá-lo em seu gerenciador de pacotes.