Se bem entendi, você pode converter um arquivo com
./convert /path/to/file >/path/to/file.new
mv /path/to/file.new /path/to/file
Para aplicar um comando a todos os arquivos em uma árvore de diretórios, use o utilitário find
. Como você precisa executar um comando complexo para cada arquivo, é necessário invocar um shell explicitamente.
find /path/to/top/directory -type f -exec sh -c '
/path/to/convert "$0" >"$0.new" &&
mv "$0.new" "$0"
' {} \;