Você pode usar rsync ou tar. Com o rsync, você quer o modo de arquivamento para preservar tudo. Você também desejará excluir os sistemas de arquivos sys e proc.
rsync -av --progress / root@otherserver:/ --exclude='/proc' --exclude='/sys'
Use a opção de execução a seco (-n) primeiro para garantir que essas exclusões estejam corretas.
Atualização:
Você quer apenas a partição inicial, então:
sudo rsync -av /home/ root@remoteServer:/home/