É provável que as pilhas TCP do G5 e do Server 2008 não consigam estabilizar a conexão. Isso normalmente é um tipo de falha de janelas de tcp. A Microsoft reescreveu a pilha TCP / IP do Windows com o Server 2008, e isso causou vários problemas com pilhas TCP / IP mais antigas, como o G5 e qualquer outra versão do OSX que estejam sendo executadas. Colocar a culpa é complicado, pois há muitas maneiras de construir uma pilha TCP / IP.
Você pode ser capaz de dizer à pilha IP do Windows para se comportar de forma diferente o suficiente para que as transferências sejam rápidas. Infelizmente, eu não sei o molho mágico exato que vai fazer isso funcionar por 10.4 ou 10.5.