A principal razão pela qual isso é tão lento é porque você desativou a maioria das otimizações que rsync tem a oferecer. Você está quase no estágio de copiar todos os arquivos incluídos em todas as execuções.
Por quê? Você mandou --whole-file em vez de permitir que rsync gerasse diferenças. Você também não está copiando o registro de data e hora com -t ou -a , portanto, rsync precisa ler cada arquivo nos sistemas local e remoto para determinar se as somas de verificação correspondem.
Tente isso
rsync --dry-run -vvtr \
--exclude='aaa.tar.gz' --exclude='bbb.tar.gz' -exclude='ccc.tar.gz' --include='*.tar.gz' --exclude='*' \
--delete --delete-during \
-e "ssh -p 34577 -i /root/.ssh/backup_rsa" \
[email protected]:/backup/cpbackup/daily/ \
/backup/jarvis/cpanel/$((($(date +\%-d)-1)/7+1))/