Para alguns comandos, pode haver algum tipo de opção para evitar esse tipo de redundância. Mas não é o caso genericamente para todos os comandos no Linux.
No seu caso, a maneira correta de escrever o que você já tem é
sort file.txt -o file.txt
Isso classificará file.txt
e gravará os resultados no mesmo arquivo.
Se você quiser salvar o argumento para não precisar digitar um nome de arquivo longo, poderá armazená-lo em uma variável bash:
i="file.txt"; sort $i -o $i