Isso pode ser basicamente qualquer coisa, desde o congestionamento do link até o alto uso da CPU no computador remoto. No meio, todos os dispositivos de rede também podem estragar. Especialmente desde que você está bombardeando a porta ssh. Mas os problemas de buffer nos dispositivos de rede também podem ser os culpados.
Uma coisa: na próxima vez, verifique que o rsync não está sendo executado duas vezes. Sim, você criou soluções alternativas no script para evitar isso, mas nunca se sabe ... talvez a pasta seja somente leitura, talvez o sistema de arquivos se comporte de maneira estranha ...
Então, você entende, não temos informações suficientes para responder corretamente.
No entanto, , recomendo que você pare de usar rsync
para este caso de uso. Isso é ineficiente e propenso a erros. Como o que você quer é a sincronização constante da pasta, dê uma olhada nos syncthings . Deve funcionar melhor, sem atrasos com a mesma quantidade de abertura e segurança. (o rsync é ótimo para fotos únicas e para backups periódicos, não para sincronizar constantemente pastas)