Vamos supor que você inicialize as caixas Linux usando o PXE para carregar o kernel / initrd e o NFS para montar sistemas de arquivos.
Você pode armazenar em cache os arquivos PXE (configuração, imagens, kernel, initrd) em outros servidores tftp mais próximos das máquinas que inicializam via PXE. Então você só precisará rsync quando algo mudar.
Para sistemas de arquivos NFS, você pode rsync deles de tempos em tempos para armazenamento local e usar, e. aufs para mesclar sistemas de arquivos locais e remotos em um.