1.) 512 não é realmente uma escala de janela alta - é só dizer para mudar o tamanho da janela oferecida para a esquerda por 9 bits. Configurar o tamanho da janela para 130 (caso contrário, um valor muito, muito baixo) e, em seguida, aplicar um fator de escala de 512 leva você a 66560 (130 < < 9).
2.) 100M é provavelmente um arquivo muito pequeno. O fato de a escala ter sido negociada sugere que tudo está funcionando bem. Tente um arquivo maior para observar melhor o comportamento. Se nada mais, você terá uma noção melhor do rendimento real.
3.) Lembre-se também que o comportamento de determinados clientes pode substituir especificamente o comportamento do sistema operacional - o cliente FTP embutido no Solaris, por exemplo, usado para limitar o tamanho da janela a 64K, independentemente de como o sistema operacional era configurado.