Você pode usar uma transformação Schwartzian: extraia o número em um campo separado, classifique-o e remova-o
$ sed -r 's/(.*\/)([0-9]+)/ /' table.txt | sort -n -k1,1 | cut -d" " -f2-
3-6-13 0.0717 ./2-t.xyz
3-6-13 0.7503 ./4-t.xyz
3-6-13 0.5862 ./5-t.xyz
3-6-13 0.3737 ./6-t.xyz
3-6-13 0.0712 ./13-t.xyz