Eu tive que acontecer em servidores Windows ao copiar arquivos monstruosamente grandes também. Suspeito que o seu problema seja E / S de disco e / ou Cache dinâmico do Windows. Basicamente, se o disco não for rápido o suficiente para acompanhar, o Windows armazena as gravações na memória e pode usar até 100% da memória para isso.
Você pode, a partir de fevereiro de 2014, gerenciar o tamanho do cache com este utilitário da Microsoft .
Mas primeiro, verifique seu RAID para discos defeituosos. Provavelmente não é isso, mas como isso causa outros problemas, você provavelmente deveria verificar isso primeiro.