O dispositivo SoC usado no Pi não tem suporte embutido para ethernet, então a funcionalidade ethernet no Pi é fornecida por um chip ethernet USB, compartilhando o mesmo barramento USB que qualquer outro periférico USB que você possa ter conectado a ele ( incluindo quaisquer unidades flash USB). Esta é provavelmente a principal razão pela qual você vê um desempenho abismal.
Solução? Infelizmente não há nenhum, é uma limitação de hardware. Não tem nada a ver com a velocidade do seu disco rígido ou a configuração de rede que você tem, o barramento USB no Pi é levado ao seu limite com o disco e a ethernet rodando simultaneamente.
Você pode querer investir um pouco mais em sua configuração NAS e comprar um computador de placa única que realmente tenha incorporado uma rede ethernet. Existem várias plataformas com suporte a gigabit ethernet por aí.