Sempre que precisar de opções adicionais para o comando ssh fora do usuário e do host, você precisará do sinalizador -e. Talvez o servidor ao qual você está se conectando tenha ssh escutando na porta 2222.
rsync -e 'ssh -p 2222' /source usr@host:/dest
Uma alternativa para contornar isso, existem 2 arquivos que você pode usar. /etc/ssh/ssh_config
ou ~/.ssh/config
O arquivo de configuração usa o mesmo formato que ssh_config
. É apenas capaz de ser configurado por usuário!