Para começar, você provavelmente estava usando o NTFS-3G, que é implementado no espaço do usuário, não no kernel. Isso sozinho significa que você tinha pelo menos o dobro das alternâncias de contexto ao usar o NTFS que você usou ao usar o ext4.
Além disso, eu não posso comentar muito sobre o que o problema pode ser, além de mencionar que, com base em meus próprios testes, o NTFS não parece lidar com arquivos esparsos de maneira muito eficiente no LInux, usando o NTFS-3G, ou usando o driver nativo do kernel (que quase ninguém usa porque o NTFS-3G tem um suporte geral muito melhor).