Isso funciona:
sed -r -e 's/(.*)/""/' -e 's/\+/" "/g' -e 's/""/ /g' -e 's/\%/\x/g' -e 's/("\x.{2})/"/g' -e 's/""\s+/" /g' -e 's/"(.*)"/"/' -e 's/([^"]|(([0-9]|[a-z])))(\x[0-9]([a-zA-Z]|[0-9]))" /"" /g' src.txt
Resultado:
"\x5B" "The" "transmission" "is" "\x5B"150mhz"\x5D" "The" "year" "is" "\x28"2017"\x29" "This" "is" "\x2A" "great" "\x2A" "so" "far" "\x5D"
Então, em diante:
echo -e "\x5B" "The" "transmission" "is" "\x5B"150mhz"\x5D" "The" "year" "is" "\x28"2017"\x29" "This" "is" "\x2A" "great" "\x2A" "so" "far" "\x5D"
Resultado:
[ The transmission is [150mhz] The year is (2017) This is * great * so far ]
Eu não acho que o sed
seja a melhor ferramenta para usar aqui, mas desde que você esteja procurando aprender.