Por que meu rsync está lento?

1

Eu executei um trabalho de rsync transferindo cerca de 45 milhões de arquivos / aproximadamente 1,8 TB de dados (um backup do Mac OS X Time Machine) em uma conexão de 100 MBit.

Eu uso o rsync 3.1.1 do MacPorts (tentei o rsync, versão 2.6.9, pois ele possui um parâmetro de cache específico do Mac OS X, mas ficou sem memória) com os seguintes parâmetros

rsync -HzvhErlptgoDW --stats --progress --out-format="%t %f %b" /source/ /destination/

A fonte é um HD externo de 3,5 "conectado ao Firewire 800. O destino é um pacote de imagem de disco esparso montado localmente (mas seu" arquivo de origem "está em um armazenamento de rede). Inicialmente obtive boas velocidades, 7-9 MB / s para arquivos razoavelmente grandes, mas quanto mais tempo esta operação estiver ocorrendo (eu a reiniciei há três dias), mais lenta ela fica. Também há longas pausas quando nada acontece, como este:

2011-01-22-070305/Macintosh HD/Library/Application Support/Apple/Mail/Stationery/Apple/Contents/Resources/Photos/Contents/Resources/Bamboo.mailstationery/Contents/Resources/Mask3.png
          1.28K 100%    3.26kB/s    0:00:00 (xfr#48406, ir-chk=1050/4166332)
2016/01/16 18:26:48 Volumes/src/Backups.backupdb/mm/2011-01-22-070305/Macintosh HD/Library/Application Support/Apple/Mail/Stationery/Apple/Contents/Resources/Photos/Contents/Resources/Bamboo.mailstationery/Contents/Resources/Mask3.png 313
2011-01-22-070305/Macintosh HD/Library/Application Support/Apple/Mail/Stationery/Apple/Contents/Resources/Photos/Contents/Resources/Bamboo.mailstationery/Contents/Resources/banner-green.jpg
         32.26K 100%    0.00kB/s    0:00:00 (xfr#48407, ir-chk=1049/4166332)
2016/01/16 19:17:37 Volumes/2TB/Backups.backupdb/mm/2011-01-22-070305/Macintosh HD/Library/Application Support/Apple/Mail/Stationery/Apple/Contents/Resources/Photos/Contents/Resources/Bamboo.mailstationery/Contents/Resources/banner-green.jpg 31279

(Eu não podia negrito os timestamps, mas como você pode ver, o primeiro arquivo é terminado 18:26, o segundo arquivo 19:17, e o segundo arquivo é apenas 32 kB)

Eu não acho que a transferência seja limitada pela CPU. Existem alguns picos de CPU, mas geralmente a carga da CPU é inferior a 10%. Os três processos de rsync gerados por esta operação utilizaram quase exatamente 5h de tempo de CPU nas 72h que a transferência está ocorrendo. O próprio computador fica ocioso 23h por dia.

Nem a memória é um problema. A pressão da memória foi "verde" desde o início da operação.

A tarefa de kernel acumulou bastante tempo de CPU (57h quando eu escrevo isto), mas por outro lado, o tempo de atividade é de 25 dias e todos esses 57h não podem ter sido consumidos pelo rsync.

Alguns detalhes finais

  • Eu tive esse processo em execução por alguns dias quando o reiniciei para melhorar o registro em log há três dias. Demorou nove horas antes do primeiro arquivo ser transferido.
  • Primeiro usei o Finder para transferir essa árvore de diretórios da mesma origem para o mesmo destino. Isso levou 3 dias, apesar de tudo. Agora eu passei seis dias e acho que nem transferi um terço da árvore.
  • Tentei transferir arquivos entre a mesma origem e o destino fora dessa operação e eles são executados a todo vapor.
por d-b 19.01.2016 / 08:10

0 respostas