A propósito, o problema que você levanta, o de uma conexão TCP não conseguir ser rápida o suficiente para usar toda a sua largura de banda, ocorre apenas em cenários onde o produto de atraso de largura de banda é grande, o que é o caso somente poucas redes. Em LANs o atraso é pequeno, o que mantém o produto pequeno e nas WANs a largura de banda é pequena, mantendo o produto pequeno.
Se você tem uma rede com um produto de atraso de largura de banda muito grande, há algumas coisas que você pode fazer para ajustar o TCP para trabalhar com ele, começando com o aumento do tamanho da janela e aumentando o caminho MTU (bem, isso é um ajuste de IP, não um tweak TCP, mas se aplica!). Veja artigos escritos sobre redes de pesquisa para mais sobre isso. Para obter mais ajuda sobre como ajustar o TCP ao seu cenário, talvez seja necessário descrever sua rede específica.
Quanto ao uso do rsync, você não pode executar dois rsyncs simultâneos copiando os mesmos arquivos ao mesmo tempo.
a única coisa que posso pensar que você pode fazer no nível de rsync é dividir seu diretório em vários subdiretórios e transferi-los um por um em paralelo.