Você precisa remover o líder $ (e, enquanto estamos nisso, cite $RADIOOUT e evite que ele seja interpretado como uma opção para file se começar com - ):
EXTENSION=$(file -- "$RADIOOUT")
Este é o meu script de shell:
$EXTENSION=$(file $RADIOOUT)
$RADIOOUT contém o nome do arquivo junto com seu caminho.
saída é:
./zenityentry: line 40: =/home/jeevan/Downloads/p.txt:: No such file or directory
Tags linux shell-script