Como melhor maneira de rsync de aws s3 para gcloud?

1

Eu preciso executar um rsync (não apenas copiar ou mover) de todos os meus blocos do s3 para o google cloud. Eu preciso criar a mesma infra-estrutura do s3 para o google. Eu tenho como 2Tera em s3, e todos os dias eu recebo novos arquivos ..

Minha solução hoje é

gsutil rsync -r -m s3: // balde gs: // balde

Mas esta solução é mais lenta.

Você tem uma ideia mais rápida?

Obrigado.

    
por Bruno Rossi 19.06.2015 / 20:16

2 respostas

1

Se você estiver sincronizando uma grande quantidade de dados entre nuvens, convém configurar uma conta do Google Compute Engine e executar a gsutil lá. Como as transferências de dados da gsutil entre provedores fluem através da máquina em que a gsutil está sendo executada, isso pode fazer com que sua transferência seja executada de forma significativamente mais rápida do que a execução da gsutil em sua estação de trabalho local.

Referência: link

    
por 29.06.2015 / 16:38
0

A resposta atualizada a essa pergunta é usar o Serviço de transferência do Google :

What is Storage Transfer Service?

Storage Transfer Service transfers data from an online data source to a data sink. Your data source can be an Amazon Simple Storage Service (Amazon S3) bucket, an HTTP/HTTPS location, or a Cloud Storage bucket. Your data sink (the destination) is always a Cloud Storage bucket.

    
por 09.05.2018 / 14:41