Eu acho que
[it] would be very expensive to query
Server1
e
it would be nice if each server had a local link to that directory as if the directory was stored locally
são contraditórios. O primeiro implica que você acha que uma montagem de rede não seria viável em seu ambiente. O último implica que você deseja o único conjunto de dados em Server1
e que não deseja rsync separar cópias entre locais.
Este é um artigo interessante sobre NFS , como funciona, como configurá-lo e sua segurança. Acho que você verá que um compartilhamento de rede via NFS será perfeitamente aceitável.