Você pode copiar o binário local rsync para o outro servidor usando scp e, em seguida, usar rsync com a diretiva --rsync-path=PROGRAM , onde PROGRAM é o caminho para o binário rsync carregado.
Por exemplo:
which rsync
/usr/bin/rsync
scp /usr/bin/rsync user@remote:~/rsync
rsync -a --rsync-path=~/rsync source dest