AFAICT da sua entrada e saída de amostra, você deve arredondar o primeiro campo para o 10 mais próximo, arredondar o segundo campo para o 10 mais próximo e deixar o terceiro campo sozinho.
awk '{printf "%5.0f\t%6.0f\t%.2f\n", int($1/10+0.5)*10, int($2/10)*10, $3}' file
Saída:
50460 170400 0.01
50440 170380 0.03
50460 170380 0.04
50480 170380 0.01
50460 170360 0.13
50480 170360 0.14
50400 170340 0.27
50420 170340 0.33
50480 170340 0.32
50500 170340 0.36
50560 170340 0.29