Supondo que o usuário "username" tenha acesso ssh ao server2 do server1, você pode sincronizar as alterações feitas no server1 ao server2 executando isto no server1:
rsync -nav /path/to/files/ username@server2:/path/to/files/
As barras à direita são significativas, veja man rsync
para detalhes.
As opções usadas neste exemplo são: n = execução a seco, apenas relate o que será feito sem realmente fazer isso a = modo de arquivo, preserva detalhes de propriedade, links, etc. v = ser detalhado
Quando estiver satisfeito, está a fazer o que pretende, pode remover o sinalizador n.
Veja man rsync
para mais opções, como --exclude e --delete, -z para compactação também pode ser útil.