Se a rede que conecta os dois servidores for segura (por exemplo, uma rede local em seu escritório), você poderá usar o rsync no modo daemon para se conectar como root. Desta forma você não usa o ssh para fazer a conexão.
No sistema secundário, crie um arquivo /etc/rsyncd.conf com o seguinte conteúdo:
[all]
path = /
read only = no
uid = 0
gid = 0
hosts allow = primary-host
auth users = backupuser
secrets files = /etc/rsyncd.secrets
exclude = /tmp/ /var/tmp/ /var/cache/ /proc/ /sys/ /dev/ /run/ /boot/
Agora, crie um arquivo /etc/rsyncd.secrets com, por exemplo:
backupuser:thisisasecretpassword
Tornar o arquivo legível apenas pelo root:
# chown root /etc/rsyncd.secrets; chmod 400 /etc/rsyncd.secrets
Agora você precisa garantir que o rsync seja iniciado como um daemon; que depende da sua distribuição, com o Debian você edite /etc/default/rsync e altere a RSYNC_ENABLE line para RSYNC_ENABLE=true e execute /etc/init.d/rsync start (se estiver executando o systemd, execute systemctl enable rsync; systemctl start rsync ).
Agora, você pode executar o rsync no host principal e enviar o que for necessário para replicar para o secundário, por exemplo:
# rsync -ai /var/www/ backupuser@secondary-host::all/var/www/
O Rsync pedirá a senha secreta neste caso.