Regra geral, se escapar de um tipo de citações não funcionar, escape do outro:
alias analyze="hexdump -e '/1 \"%_ax) \"' -e '/1 \"%02X\" \"\n\"'"
Aqui, escapei das aspas duplas internas e citei tudo com aspas duplas.
A regra completa parece ser que você pode escapar de aspas duplas entre aspas duplas, mas não pode escapar de aspas simples entre aspas simples. Você tem que escapar dos de fora, mas não funciona quando se define um apelido.
$ alias hi='echo hi' #works
$ alias hi='echo "hi"' #works
$ alias hi='echo \"hi\"' #works
$ alias hi="echo \'hi\'" #works
$ alias hi="echo \"hi\"" #works
$ alias hi='echo \'hi\'' #doesn't work
$ alias hi=\'echo 'hi'\' #should work but doesn't
Depois de definir o alias corretamente, você pode perguntar ao bash qual foi a resposta correta com o comando alias
, que lista todos os aliases. Você pode trapacear e usar o método do @ meuh se não conseguir encontrar as citações corretas. Neste caso:
$ alias
alias analyze='hexdump -e '\''/1 "%_ax) "'\'' -e '\''/1 "%02X" "\n"'\'''