Soa mais como um problema de conexão do que qualquer outra coisa, especialmente quando ele está em ambos os sistemas operacionais. Eu tenho um NAS pessoal e não gosta de várias conexões do mesmo usuário. Use freefilesync eu mesmo e parece sempre funcionar ok.
A primeira coisa que eu tento é abrir o gerenciador de tarefas e começar o procedimento de backup enquanto monito os processos. Se o portátil em si estiver congelando, você poderá identificar aqui qual hardware começa a chegar ao máximo - é a CPU? RAM? Rede? GPU?
Se o gerenciador de tarefas parecer normal, tente desligar as duas máquinas e o NAS (se possível) e depois ligue a nova máquina, seguida pelo NAS. Dê a eles dois minutos depois de ligar, já que o DHCP pode demorar alguns minutos para se organizar em dispositivos IOT como o NAS. Veja se isso faz alguma diferença?
Além disso, e sua rede? Presumivelmente, as máquinas e o NAS estão conectados via LAN - tente substituir o cabo para a nova máquina - certifique-se de que seja pelo menos CAT5E. Você está passando por um switch de rede ou direto para o roteador? Como eles estão configurados? E se você conectar temporariamente o NAS diretamente ao PC?
Você pode excluir rapidamente sua consulta sobre se a RAM é muito grande, embora eu duvide que esse seja o problema. Reduza a RAM praticamente nas configurações do sistema para um tamanho menor - aqui está um guia sobre isso, funciona para o Windows 7-10: link Vai precisar de um reinício.
Não posso ajudar mais do que isso, mas talvez as sugestões o ajudem. Boa sorte!