Você pode fazer:
while read num; do echo "scale=3; $num / 1000" | bc; done <file.txt
bash
não suporta aritmética de ponto flutuante, então precisamos usar bc
.
Altere scale
para ajustar os dígitos após os pontos decimais de acordo com sua necessidade.
Para salvá-lo no mesmo arquivo:
while read num; do echo "scale=3; $num / 1000" | bc; done <file.txt | tee file.txt