Como Tim disse, isso parece normal; O rsync saberá que tem um arquivo que parece ser uma cópia parcial do arquivo remoto, mas ele ainda precisa verificar se o arquivo que ele possui é, na verdade, o arquivo do qual você está copiando.
Como está fazendo esta verificação, ele mostrará o número de bytes do arquivo que ele "transferiu", então parecerá que está copiando o arquivo novamente - mas se você observar a velocidade da transferência, ele deve ser muito mais rápido do que seria possível em toda a rede. Eventualmente, o rsync passará dos bytes já copiados e localizará novos bytes que precisam ser transferidos pela rede, e você verá a velocidade diminuir.
Em suma, acho que você está sendo confundido pela saída do rsync, pois ele não diferencia entre "bytes transferidos pela rede" e "bytes transferidos simplesmente verificando se a cópia local corresponde à cópia remota"