O rsync é uma boa opção para mover dados entre máquinas (para linux). Tenha muito cuidado sobre como você rsync, se você tem credenciais sentado na máquina host o que é para impedi-los de usá-los para destruir a máquina alvo também?
Certifique-se de que seu rsync da máquina TARGET e apenas um conjunto limitado de pessoas tenha acesso à máquina de destino.
Você pode procurar provedores de hospedagem externos que fazem backups para você e manter as credenciais dessa conta apenas com um número limitado de pessoas.
A outra coisa que você pode investigar é criar scripts com a AWS que tire um instantâneo do EC2 e salve-o ou envie-o para outra conta da AWS ou para um usuário especial do IAM que apenas um conjunto limitado de pessoas tenha acesso. Se você puder obter seus dados no S3, poderá criar seus próprios serviços para colocá-los em outra conta da AWS, ou em um computador local ou em outro provedor de hospedagem, etc.
Outra coisa útil é não dar aos funcionários acesso para excluir dados de uma conta da AWS, a menos que seja necessário. Isso pode ou não ser prático dependendo da sua situação.