É bem simples. Gere na máquina seu rsa_id com ssh-keygen -t rsa
Depois disso, execute ssh-copy-id login@secondmachine
put password, é tudo. Depois disso, você poderá fazer o login sem a senha de uma máquina para outra (se você quiser fazer o login sem nenhuma senha de ambas as máquinas, deverá executar as mesmas etapas na segunda máquina).
Mas talvez você deva considerar o uso do rsync para esses trabalhos. Usar senha para o rsync no cronjobs é muito simples com variáveis de ambiente USER e RSYNC_PASSWORD. Coloque isso no seu script
export USER=nameofrsyncuser
export RSYNC_PASSWORD=password
depois disso, qualquer comando rsync usará essas variáveis. É muito mais seguro porque o usuário rsync não é usuário do sistema. Você terá que configurar servidores rsync, mas é muito simples. E você pode proteger o compartilhamento rsync usando a diretiva allow do host na configuração do rsync.